Оговорка, Это моя интерпретация позиции Ника Бострома применительно к технологии органоидного интеллекта, основанная на его философских работах об экзистенциальных рисках, этике технологий и гипотезе симуляции, а не на его прямых высказываниях об OI.
Органоидный Интеллект: Реализуется ли Экзистенциальный Кошмар Бострома в Чашке Петри?
В то время как общественное внимание приковано к драматическим успехам искусственного интеллекта, в лабораториях незаметно развивается технология, способная материализовать один из самых тревожных сценариев, обсуждаемых философом Ником Бостромом, – органоидный интеллект (OI). Подобно тому, как Бостром в «Суперинтеллекте» предупреждал о непреднамеренных катастрофических последствиях создания превосходящего человеческий разума ИИ, OI ставит перед нами фундаментальные этические и философские дилеммы уже сегодня. Это не кремниевые чипы, а трехмерные структуры из живых человеческих нейронов, выращенные in vitro, интегрированные с электроникой и обучаемые выполнять задачи. Их эффективность поражает: они быстрее цифровых нейросетей и на порядки энергоэффективнее. Демонстрация игры в «Понг» – лишь первый шаг.
Однако, как настаивает Бостром, оценивая любую трансформационную технологию, мы обязаны в первую очередь рассматривать риски, особенно экзистенциальные и связанные с непреднамеренными последствиями. Главная опасность OI, в духе размышлений Бострома, кроется в проблеме сознания и страдания. Данные указывают, что мозговая активность развитых органоидов может напоминать активность мозга недоношенного ребенка. Бостром, глубоко погруженный в вопросы субъективного опыта и границ разума, вероятно, подчеркнул бы, что мы стоим перед эпистемологической пропастью: мы принципиально не можем доказать отсутствие у таких структур рудиментарных форм феноменального сознания или способности к страданию. Использование их в качестве «биологических компьютеров», не установив моральный статус, – это гигантский неоправданный риск, потенциально ведущий к созданию целого класса незамеченных страдающих субъектов. Это не просто неэтично; это, по терминологии Бострома, может стать источником колоссального негативного полезного исхода (negative utility).
Проект компании Final Spark выглядит как тревожное воплощение предостережений Бострома о неосторожном обращении с неисследованными технологиями. Их бизнес-модель – аренда вычислительных мощностей органоидных «мини-мозгов» – сама по себе вызывает серьезные этические вопросы об инструментализации потенциально чувствующей материи. Но истинный ужас, в бостромианской перспективе, раскрывается в режиме «простоя». Подача органоидам сенсорных данных бабочки для управления насекомым – это создание примитивной, навязанной симуляции реальности для нейронной сети.
Бостром, автор знаменитой гипотезы симуляции, несомненно, увидел бы здесь зловещую параллель. Если органоид обладает минимальным субъективным опытом, он оказывается заперт в симулированном мире, воспринимая ощущения бабочки как единственную реальность. Это не просто использование, это – в случае наличия сознания – форма содержания в плену иллюзии, потенциально сопряженная с непонятыми нами страданиями или искажением развития. Такой эксперимент, по мнению Бострома, мог бы рассматриваться как недопустимо рискованный без глубочайшего понимания природы сознания органоидов.
Эта практика закономерно подводит нас к той самой жуткой спекуляции, которую Бостром сделал центральной в своих философских построениях: а не находимся ли и мы сами внутри некоей сложной симуляции, созданной высшим разумом? Final Spark, по сути, создает микроскопическую модель такого возможного положения дел: органоид, чье восприятие реальности полностью детерминировано и контролируется извне. Когда наши собственные «вычислительные мощности» (мозг) бездействуют во сне, не могут ли они быть использованы неведомыми «арендаторами»? Не является ли наш мир столь же искусственным конструктом, как поток данных от бабочки для органоида? Бостром призывает нас серьезно относиться к таким гипотезам, так как они имеют фундаментальное значение для понимания нашего места во вселенной.
Таким образом, органоидный интеллект – это не просто научная диковинка. Как настаивал бы Ник Бостром, это технология, которая обнажает наши глубочайшие незнания (о сознании) и проверяет нашу этическую готовность к управлению сложнейшими рисками. Она требует немедленного ответа на вопросы: как определить порог сознания в искусственно созданной нейронной ткани? Какие моральные обязательства мы имеем перед потенциально чувствующими системами, созданными в лаборатории? И не служит ли эта технология мрачным напоминанием о нашей собственной возможной роли в чьей-то грандиозной симуляции? Игнорировать эти вопросы, вслед за Бостромом, значит безрассудно играть с идеями, последствия которых мы не в силах ни предвидеть, ни контролировать, рискуя создать новые формы невообразимых страданий или подтвердить наши самые экзистенциальные страхи.
© Блог Игоря Ураева