В своем очерке "Принципы искусственного интеллекта: сценарий действий" он оспорил высказывание предпринимателя и инженера Илона Маска об угрозе, исходящей от умных машин.
Маск давно известен своим осторожным отношением к искусственному интеллекту. Инженер постоянно говорит об угрозе со стороны умных машин и предупреждает человечество о скором конце. На днях основатель Tesla и SpaceX в очередной раз напомнил о дамокловом мече, нависшем над людьми, написав в "Твиттере", что развитие искусственного интеллекта опаснее конфликта с Северной Кореей.
Твит он сопроводил иллюстрацией с надписью "В итоге машины победят". Незадолго до этого программная разработка, которой занимается одно из подразделений Маска, обыграло профессиональных игроков популярной онлайн-игры Dota 2.
Маск неоднократно призывал власти всерьез заняться регулированием систем искусственного интеллекта. В октябре 2014 года он назвал искусственный интеллект величайшей угрозой существованию человечества. С того времени он начал инвестировать в компании, занимающиеся изучением искусственного разума, чтобы быть в курсе происходящего.
В своем очерке Кало ссылается на существующие исследования, в которых нигде не упоминается возможность создания искусственного разума даже на уровне примитивных млекопитающих, не говоря уже о человеческом разуме. Именно поэтому, продолжает эксперт, угрозы о грядущем захвате мира машинами исходят от таких людей, как Илон Маск, Стивен Хокинг и Ник Бостром, которые не получали академического образования в этой области.
Также, по мнению эксперта, ссылающегося на скептиков, даже если удастся когда-либо создать суперинтеллект, нет причин полагать, что он внезапно озаботится захватом мира, если только это не будет изначально в него запрограммировано.
Кало считает, что изучение вероятности машинного апокалипсиса отнимает слишком много времени и ресурсов, которые можно было бы направить на изучение того, как искусственный интеллект может служить на благо общества.
В июле руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали.
Система использовала чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой. Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.
Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
С Маском не так давно поспорил и глава Facebook Марк Цукерберг. Заявления Маска об угрозе глава соцсети назвал "довольно безответственными" и предположил, что "в ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше". На что Маск ответил: "я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]".