 |
Epic Games уже внесла изменения в нейросеть, теперь она не может генерировать нецензурную брань.
В Fortnite появился Дарт Вейдер с возможностью живого общения, и это мгновенно стало проблемой. Нового NPC снабдили голосом и интеллектом, он реагирует на игроков с помощью ИИ от Google, а озвучка построена на базе записей Джеймса Эрла Джонса, оригинального голоса ситха.
Вейдер умеет поддерживать разговор через текст или голосовой чат, интерпретируя фразы игроков и выдавая ответы тем самым голосом. Это реализовано с помощью модели Gemini, но, как оказалось, ни модель, ни разработчики не были готовы к типичным для геймерской среды провокациям.
Уже через полтора часа после выхода обновления Вейдер начал ругаться, а чуть позже - повторять гомофобные оскорбления, активируемые специфическими вопросами.
Пользователи научили ИИ использовать ненормативную лексику и обходить базовые фильтры модерации с помощью сленга и намёков.
Epic Games в тот же день выпустила хотфикс и пообещала, что подобных инцидентов не повторится. Дарту Вейдеру запретили обсуждать сексуальные темы, насилие над детьми, донат в игре, а также произносить целый список матерных слов. Кроме того, были упомянуты родительские настройки, которые позволяют ограничить возможность взаимодействия с ИИ-персонажем.