 |
Одни люди с ИИ носятся, не мысля без его советов ни шага. Другие (и таких более половины всего человечества) панически его боятся. Эксперты в области ИИ обобщили эти страхи и оказалось, что в первой тройке — отнюдь не потеря работы.
Экспертами выступили 272 специалиста по искусственному интеллекту, а само исследование человеческих страхов перед нейросетями провела лаборатория Массачусетского технологического института (MIT), одного из ведущих технических вузов мира.
Каких же гадостей и подлостей ждёт человечество от ИИ?
Как сообщает BBC, на первом месте — разрушительные действия ИИ, вышедшего из-под контроля, направленные против людей. Причины выхода из-под контроля могут быть разными: из-за технических сбоев, в результате действий злоумышленников или из-за «несовпадения целей ИИ с интересами человека». А вот результат одинаково ужасен: убийство людей, обман и манипулирование людьми с целью подмять среду под себя — чтобы нейросети стали главными на планете и могли распространяться самостоятельно.
На втором месте — разработка оружия с помощью ИИ (и для кибератак, и для массового уничтожения людей).
На третьем месте — выстроенная с помощью ИИ вертикаль власти: концентрация ресурсов в руках узкого круга лиц с доступом к передовой технологии только для них и резким обнищанием и потерей прав для всех остальных людей на Земле.
На четвёртом месте — потеря работы из-за повсеместного внедрения ИИ.
Ну, и так далее — в целом экспертами сформулированы 24 риска, причём нелепых среди них нет, все имеют под собой основания.
Примечательно, что с каждым годом доля людей, которых ИИ очень нервирует, страшит. Например, в последнем всемирном обзоре Stanford AI Index она выросла к 2025 году до 52% (при том что в 2002 году это было лишь 39%).
Это неудивительно. Ведь те люди, кому нейросети больше всего могут испортить жизнь, никакой власти над процессом их ограничения не имеют. Вот как формулируют это исследователи: «Подобный разрыв между уязвимостью и ответственностью вещь не новая. Так, от авиа- и техногенных катастроф или от некачественных лекарств, например, страдает прежде всего население, а ответственность за предотвращение несут разработчики, производители и регуляторы. Однако в этих отраслях действуют строгие стандарты, механизмы контроля и юридической ответственности. В сфере ИИ аналогичные механизмы пока либо только формируются, либо отсутствуют вовсе. В результате наиболее уязвимые группы остаются практически беззащитными, а у ответственных за их защиту нет достаточных стимулов ограничивать риски».
Те же эксперты оценили степень уязвимости 14 отраслей экономики к ИИ. И — вот так сюрприз! — оказалось, что больше всего рисков распространение ИИ несёт тем отраслям, которые громче всех его внедрение приветствуют: сектор информационных технологий и сфера национальной безопасности.
Почему? Потому что информационный сектор крайне подвержен дезинформации, манипулированию общественным мнением и вторжению в частную жизнь. Национальная безопасность уязвима перед кибератаками и новыми видами вооружений.
Схожий рейтинг опасности получил и финансовый сектор, где, с одной стороны, ИИ усложняет борьбу с мошенничеством и манипулированием рынком, а с другой, все больше внедряется на всех уровнях, повышая риск последствий в случае сбоев в его работе.
Зато наиболее защищенными от рисков оказались отрасли, где искусственный интеллект пока используется менее активно, — гостиничный и ресторанный бизнес, сельское хозяйство, обрабатывающая промышленность и сфера культуры и развлечений.