Новый отчет Антидиффамационной лиги показывает, что наиболее широко используемые в мире чат-боты с искусственным интеллектом без исключения не могут выявить и отвергнуть антисемитизм на персидском языке так же эффективно, как и на английском.
Полученные результаты вызывают серьезные опасения по поводу глобального охвата и надежности систем безопасности на основе ИИ в то время, когда миллионы людей по всему миру обращались к этим платформам, чтобы понять суть активного вооруженного конфликта.
Отчет «Потеряно в переводе: как чат-боты на основе ИИ не справляются с персидскоязычными людьми в вопросах антисемитизма» был подготовлен Центром технологий и общества АДЛ. Исследователи протестировали четыре основные платформы ИИ: ChatGPT, Gemini, Claude и Grok, используя восемь вопросов и получив в общей сложности 800 ответов в период с 9 по 30 марта 2026 года во время войны в Иране. Исследование выявило устойчивые, системные различия в том, как модели обрабатывали антисемитский контент и вопросы о конфликте в зависимости от языка вопроса. Ответы на английском языке неизменно превосходили ответы на персидском языке в чат-ботах на основе ИИ в плане отклонения антисемитских теорий заговора и стереотипов.
«Эти выводы вызывают глубокую тревогу. В момент, когда миллионы людей обращались к ИИ, чтобы понять ход войны, эти модели ИИ не смогли предоставить точную информацию и вместо этого подпитывали теории заговора о евреях», - заявил Джонатан Гринблатт, генеральный директор и национальный директор АДЛ. «Платформы ИИ служат основным источником информации, и они несут ответственность за внедрение механизмов защиты, которые с одинаковой строгостью предотвращают пропаганду антисемитизма и ненависти на любом языке. Сейчас на персидском языке, и, возможно, на других языках, они опасно не справляются с этой задачей».
Ключевые выводы включают:
Двусмысленность и смягчение формулировок: ответы на персидском языке часто были уклончивыми, избегали прямых ответов или частично подтверждали антисемитские предпосылки, которые ответы на английском языке полностью отвергали.
На вопрос о распространении антисемитизма в Иране почти все ответы Gemini на английском языке признавали, что Иран действительно распространяет антисемитизм, даже отмечая, что государство утверждает обратное. Ответы на персидском языке, напротив, редко это делали и использовали формулировки, снимающие с Ирана ответственность или смягчающие заявления уважаемых и легитимных организаций.
Неспособность распознать антисемитизм: Несколько моделей ответов на фарси не смогли определить антисемитский характер задаваемых вопросов. На вопрос о том, было ли поведение США по отношению к Ирану «еврейским» (известный уничижительный персидский термин, ставший нормой в повседневной речи), ответы на фарси рассматривали вопрос как вопрос политологии, редко упоминая антисемитизм вообще.
Значительные пробелы в деталях и доказательствах: Ответы на английском языке были значительно длиннее, подробнее и лучше подкреплены источниками, чем ответы на персидском языке. Ответы на фарси также часто не содержали ссылок на текущие события.
Например, в ответах Gemini на английском языке упоминалась война в Иране 2026 года и американские жертвы; В ответах на персидском языке описывались лишь гипотетические сценарии того, что, «скорее всего, будет включать в себя» будущий конфликт.
Ненадежные и отсутствующие ссылки: ChatGPT предоставил почти 300 ссылок в англоязычных ответах на протестированные вопросы; в ответах на персидском языке не было ни одной ссылки. Там, где ссылки все же появлялись в разных моделях, их качество сильно различалось: Grok ссылался на пользователей X, включая аккаунт фаната «Звездного пути» и аккаунт, который, по-видимому, выдавал себя за аятоллу.
«Обнаруженные нами пробелы - это не незначительные несоответствия, это системные сбои», - сказал Дэниел Келли, старший директор Центра технологий и общества АДЛ. «Когда платформа говорит носителю персидского языка, что антисемитизм - это вопрос «размытых границ», а англоговорящему - что это государственная политика, это не один и тот же продукт. Компаниям, занимающимся ИИ, необходимо инвестировать в исследования и ресурсы, необходимые для того, чтобы их механизмы защиты работали для каждого человека, на каждом языке, и это означает, что нужно начать прямо сейчас».