Основатель Microsoft Билл Гейтс выступил с крайне серьезным предупреждением об опасностях, связанных с искусственным интеллектом.
В интервью, вышедшем в эфир в воскресенье в программе NBC «Meet the Press», основатель Microsoft предупредил, что передовые инструменты ИИ, попав в руки злоумышленников, могут спровоцировать цепь событий, ведущих к масштабной катастрофе - потенциальной гибели до миллиарда человек.
«ИИ, безусловно, обладает достаточной мощью, чтобы спровоцировать события, способные привести к гибели миллиарда людей», - заявил Гейтс в беседе с ведущей Кристен Уэлкер. Сразу после этого он обозначил суть своих опасений: «Никогда еще не существовало оружия, столь же мощного, как сочетание злоумышленников и новейших инструментов ИИ».
Названная Гейтсом внушительная цифра - это не прогноз о том, что миллиард людей непременно погибнет из-за искусственного интеллекта. Его слова касались потенциальной мощи этой технологии и сценария ее использования во вред. Это предупреждение было призвано подкрепить главную мысль интервью: ответственность за безопасность ИИ не должна оставаться исключительно в руках технологических компаний.
По мнению Гейтса, необходимо прямое участие государства. Он призвал американских законодателей и правоохранительные органы принять участие в создании механизмов защиты и контроля в этой сфере, дав понять, что считает недостаточной модель, при которой разработчики технологий сами следят за рисками. «Никто не считает, что саморегулирования достаточно», - отметил он.
Гейтс добавил, что, хотя требование о внедрении обязательных механизмов контроля неизбежно повлечет за собой дополнительные издержки для индустрии искусственного интеллекта, он не считает, что это существенно замедлит темпы ее развития. По его мнению, контроль должен стать неотъемлемой частью процесса разработки, а не оставаться на усмотрение отдельных компаний.
Эти решительные заявления прозвучали не на пустом месте. В последние месяцы Гейтс все больше внимания уделяет рискам, связанным с бурным развитием искусственного интеллекта. Ранее в этом месяце в интервью агентству Reuters он предупредил, что правительства разных стран недостаточно готовы к переменам, которые несет с собой эта технология, и указал на угрозы, касающиеся сферы занятости, кибератак и использования инструментов ИИ, вызывающих зависимость. Наряду с этими опасениями он продолжает подчеркивать огромный потенциал технологии для улучшения жизни людей, особенно в таких областях, как здравоохранение, образование и сельское хозяйство.
Опасения по поводу злонамеренного использования передовых инструментов перестали быть чисто теоретическими. Ранее в этом месяце компания Anthropic сообщила о пресечении попыток использования ее моделей Claude в опасных целях, включая исследования, связанные с биологическим оружием, и кибероперации. По данным компании, среди выявленных случаев было использование системы пользователем для планирования экспериментов с вирусом птичьего гриппа, а также действия, связанные с кибершпионажем.
Тем временем риски, сопряженные с искусственным интеллектом, стали одной из центральных тем в диалоге между ведущими мировыми державами. США и Китай договорились о проведении официальных переговоров, посвященных рискам ИИ и механизмам экстренной связи; в числе обсуждаемых тем - опасность выхода ИИ-агентов из-под контроля и угрозы со стороны негосударственных субъектов, в частности кибератаки.
Предупреждение Гейтса прозвучало на фоне обострения дискуссии в технологической отрасли о границах развития технологий. Наряду с призывами к усилению контроля существуют разногласия относительно масштабов рисков и методов реагирования на них, в то время как глобальная гонка по созданию передовых систем продолжается быстрыми темпами.
Сам Гейтс не считает, что развитие искусственного интеллекта следует останавливать. Его позиция более взвешена: та самая мощь, которая позволяет ИИ помогать в таких сферах, как здравоохранение, образование и наука, при ненадлежащем использовании может стать опасной. По его мнению, главная уязвимость кроется не столько в самой машине, сколько в ее взаимодействии с людьми, стремящимися использовать ее возможности во вред. Чтобы продемонстрировать, насколько серьезным он считает этот потенциальный риск, Гейтс на этот раз привел цифру, которую невозможно игнорировать: один миллиард человек.