«Человечество может исчезнуть за 10 лет»: лауреат премии Тьюринга бьёт тревогу о рисках ИИ1

7 февраля, в преддверии AI Action Summit (глобального саммита по технологиям ИИ в Париже) выдающийся канадский учёный в области искусственного интеллекта и машинного обучения Йошуа Бенжио (Yoshua Bengio) предупредил о потенциально «вредных» последствиях гонки технологических гигантов за созданием всё более мощных систем искусственного интеллекта.

Бенжио, лауреат престижной премии Тьюринга 2018 года, представил первый в истории Международный отчёт о безопасности ИИ в парижском университете ENS. Он обратил внимание на уже широко признанные риски использования ИИ, такие как создание фальшивого или вводящего в заблуждение контента. Однако профессор Монреальского университета подчеркнул, что «постоянно появляются доказательства дополнительных рисков, таких как биологические атаки или кибератаки».

В долгосрочной перспективе Бенжио опасается возможной «потери контроля» человека над системами ИИ, которые потенциально могут быть мотивированы «собственным желанием выжить». Появление в прошлом месяце недорогой и высокопроизводительной китайской модели ИИ DeepSeek «ускорило гонку, что не способствует безопасности», добавил учёный.

Бенжио призвал к более жёсткому международному регулированию и более обширным исследованиям в области безопасности ИИ, которые в настоящее время составляют «крошечную долю» от массивных инвестиций, вкладываемых в этот сектор. «Без вмешательства правительства я не знаю, как мы справимся с этим», – заявил он.

США, по-прежнему являющиеся ведущей страной в области ИИ, отказались от попытки бывшего президента Джо Байдена ввести некоторые правила развития после инаугурации Дональда Трампа. Когда два года назад ChatGPT от OpenAI ворвался на публичную сцену, Бенжио почувствовал «срочность размышлений о вопросе безопасности». Он представил отчёт, разработанный по образцу уже знакомых документов Межправительственной группы экспертов по изменению климата (МГЭИК).