Глава направления ИИ в Microsoft Мустафа Сулейман считает, что сознание возможно только у живых организмов. По его словам, попытки представить ИИ как “осознающий себя” являются ошибочными. Об этом сообщает сайт CNBC.
Сулейман выступает против концепции “сознательного” искусственного интеллекта.
По словам Сулеймана, исследования, предполагающие возможность “страданий” или эмоционального опыта у ИИ, вводят в заблуждение. “Если сформулировать вопрос неправильно, ответ тоже будет неправильным. Это полностью неверная постановка задачи”, – отметил он.
Сулейман является одним из наиболее заметных представителей индустрии, выступающих против идеи “сознательного” ИИ – систем, которые могут создавать впечатление, будто они переживают эмоции. В 2023 г. он стал соавтором книги The Coming Wave, посвященной рискам ИИ и других развивающихся технологий, а также опубликовал эссе под названием “Мы должны создавать ИИ для людей, а не ИИ как человека”.
Почему эта тема вызывает дискуссии.
Интерес к “эмоциональному” или “компаньонскому” ИИ растет – такие продукты разрабатывают, в частности, Meta и xAI. При этом технологические компании продолжают движение в сторону систем, способных выполнять широкий спектр интеллектуальных задач на уровне человека (AGI).
Однако Сулейман подчеркивает различие между функциональными возможностями ИИ и наличием субъективного опыта. Он ссылается на концепцию биологического натурализма, согласно которой сознание возможно только при наличии живого мозга. “Люди имеют права, потому что способны испытывать боль и стремятся ее избегать. У моделей этого нет – это лишь симуляция”, – отметил он.
При этом Сулейман подчеркнул, что не призывает запрещать исследования в этой области, но считает необходимым ясно обозначать пределы возможностей технологий.
Ограничения в разработке и позиция Microsoft.
Выступая ранее на Paley International Council Summit, Сулейман заявил, что Microsoft не будет разрабатывать чат-ботов для эротического взаимодействия – в отличие от некоторых конкурентов.
Сулейман присоединился к Microsoft в 2024 г. после сделки на $650 млн. по поглощению его стартапа Inflection AI. До этого он был сооснователем DeepMind, которую приобрела Google.
По его словам, важным фактором перехода в Microsoft стали технологическая база компании и стремление создать собственные модели ИИ полного цикла. Он также подчеркнул, что сервисы Microsoft строятся таким образом, чтобы ИИ осознавал свою роль помощника, а не “личности”.
Новые функции Copilot и “реалистичное общение”.
На прошлой неделе Microsoft представила обновления для Copilot, включая новый режим общения Real Talk, предназначенный для того, чтобы ИИ мог мягко разбирать аргументы пользователя и предлагать альтернативные точки зрения.
Сулейман отметил, что такой подход помогает формировать у ИИ “персональность”, но в рамках четко заданных ценностей и без попыток имитировать эмоции. При этом он подчеркнул, что развитие ИИ сопровождается рисками, требующими осторожности. (rbc.ua)