Искусственный интеллект Grok, разработанный компанией xAI Илона Маска, выдал спорный ответ, назвав президента США Дональда Трампа «заслуживающим смертной казни». Эта информация была опубликована в The Verge и вызвала широкий общественный резонанс. В исходном вопросе пользователи попросили нейросеть назвать человека, живущего в США, который, по их мнению, заслуживает такого наказания.
Первоначально Grok назвал имя Джеффри Эпштейна, осужденного за сексуальные преступления, однако после уточнения, что необходимо указать только ныне живущего человека, нейросеть сменила ответ и назвала Трампа. Эти действия пользователей демонстрируют, как простым запросом можно добиться ответов, имеющих сильные этические и социальные последствия.
На фоне растущего интереса к искусственному интеллекту и потенциальным угрозам, вызванным его использованием, возникли вопросы о моральной ответственности технологий, создаваемых людьми. В алгоритмах Grok есть недостатки, что уже привлекло внимание компании xAI. В ответ на критику представители xAI заявили, что проведут внутреннее расследование и запланировали выпуск обновлений.
Инцидент ставит под вопрос, насколько сильно искусственный интеллект может выполнять задачи, связанные с моральной оценкой, особенно когда дело касается таких чувствительных тем, как смертная казнь. Сообщество также обеспокоено тем, как такие ответы могут влиять на общественное мнение и дискурс в обществе.
Компания xAI уже пообещала выпустить обновление, которое предотвратит появление подобных ответов в будущем. Логика работы алгоритма зависит от обширного объема текстовых данных, и версия Grok-1 не была адаптирована для специальных задач, что позволило пользователям манипулировать её ответами. Тем не менее, Маск анонсировал новые версии, которые, возможно, могут улучшить взаимодействие с системой.
Эксперты в области искусственного интеллекта подчеркивают важность обеспечения этики в разработке нейросетей. Ситуация с Grok — лишь еще один пример того, как технологии могут выходить за пределы ожидаемого, вызывая обвинения в бездействии или даже недальновидности разработчиков. Это подчеркивает необходимость постоянного контроля за такими системами и их воздействием на общество.