16+
Четверг, 13 июня 2024
  • BRENT $ 81.94 / ₽ 7294
  • RTS1106.27
3 июня 2023, 05:10 Технологии

Почему появился фейк об «искусственном интеллекте — убийце»?

Лента новостей

В СМИ появилась информация, что глава отдела испытаний искусственного интеллекта ВВС США Такер Гамильтон сообщил о некоем смоделированном испытании, в котором беспилотник решил избавиться от оператора, потому что тот мешал ему атаковать некоторые цели. Позднее газета The Guardian выступила с опровержением этих данных. Но случайно ли появились эти слухи?

Фото: Alexander/фотобанк «Лори»

Гонка за созданием и монетизацией решений, основанных на использовании нейросетей, очевидно, выходит на финальную стадию. Сейчас бесспорным лидером в этой области считается принадлежащая Microsoft компания OpenAI и ее ChatGPT. По прогнозам, в 2023 году ее доход достигнет 200 млн долларов. Сумму нельзя назвать космической, но ожидается, что в следующем году она вырастет еще в пять раз. Поэтому любые сообщения об опасностях, исходящих от использования ИИ, начинают потенциально получать вполне реальное финансовое измерение. Пока что OpenAI — это полностью частная компания. А вот если бы она была публичной, то расследования со стороны финансовых регуляторов было бы не избежать.

Притом что новость о виртуальном убийстве оператора для уха специалиста звучит бредом, на массовое сознание она производит немалое впечатление, указывает гендиректор компании «А-Я эксперт» Роман Душкин:

Роман Душкин Роман Душкин гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт» «Если бы это была накладка, скорее всего, мы бы о ней не узнали. Когда высокопоставленный чиновник Пентагона говорит ерунду с точки зрения разработчика системы искусственного интеллекта, значит, тут что-то не то. Весь мир сейчас бьется в конвульсиях: «Скайнет» ожил, он нас всех порубит. Для чего они запустили этот инфоповод в информационное пространство, в этом надо разбираться. Почему это ерунда с точки зрения разработчиков систем искусственного интеллекта? Способы их поведения заранее специфицируются, есть четкий перечень тех действий, которые они могут выполнять. У этой системы нет личного целеполагания, она не может придумать никакое другое действие, которое бы не заложили в нее программисты».

Уже в ближайшие дни на заседании Совета ЕС по торговле и технологиям при участии США состоятся переговоры по регулированию искусственного интеллекта. Еврокомиссар по цифровым технологиям Маргрет Вестагер выразила надежду на достижение конкретных результатов уже к концу текущего года. Тем не менее она также отметила, что вступление новых правил в силу может занять от одного до двух лет.

Тем временем гендиректор OpenAI Сэм Альтман выразил озабоченность относительно планируемых европейских мер государственного регулирования искусственного интеллекта и предупредил, что компания может прекратить предоставление своих услуг на европейском рынке.

Обе позиции вполне объяснимы, констатирует советник юридической фирмы Lidings Дмитрий Кириллов:

Дмитрий Кириллов советник юридической фирмы Lidings «Новость, конечно, опровергли, но вопросы остаются. Это звучит, с одной стороны, комично. С другой стороны, страшно. То, что мы сейчас видим в новостях, — это одиозные яркие события, но их намного больше, и это как раз вызывает беспокойство у регуляторов. Именно поэтому нужны правила игры: что делать с искусственным интеллектом и как сделать так, чтобы он не вредил, а помогал людям. OpenAI — это бизнес в первую очередь, он всегда опасается жестких действий регуляторов. Поэтому они и пытаются включиться в этот процесс как можно раньше, чтобы избежать сверхжесткого регулирования».

Пока еврочиновники только готовятся обсуждать то, как можно регулировать ИИ, а американский сенат проводит на эту тему слушания, уже вполне готовый текст законопроекта, регулирующего подобные системы, разработал белорусский Объединенный институт проблем информатики Национальной академии наук. Этот проект уже был представлен Межпарламентской ассамблее СНГ. Тему использования ИИ президент страны отдельно затронул в своем мартовском послании белорусскому народу и Национальному собранию. Он отметил важность науки в укреплении государственности.

Рекомендуем:

Фотоистории

Рекомендуем:

Фотоистории
BFM.ru на вашем мобильном
Посмотреть инструкцию