Рост вычислительных мощностей и бесконтрольное развитие автономных ИИ-агентов породили серьезные опасения относительно возможности возникновения глобальных пандемий, спровоцированных искусственным интеллектом. В ответ на эти вызовы специалисты стартапа по биобему безопасности Red Queen Bio начали работу над созданием антител, способных нейтрализовать широкий спектр патогенов, включая те, что могут быть синтезированы с помощью ИИ, сообщает The Wall Street Journal (WSJ).
В рамках реализации этой стратегии компания Red Queen Bio, в число ключевых инвесторов которой входит OpenAI, привлекла 36 миллионов долларов. Несмотря на наличие финансирования, технологический цикл требует времени: проведение клинических испытаний препаратов, нацеленных на борьбу с птичьим гриппом и иными вирусами, намечено не ранее 2027 года.
Существующий подход к безопасности технологий зачастую строится на попытках ограничить возможности моделей: введении цензуры, замедлении темпов исследований или блокировке запросов, связанных с опасными сценариями. Однако в Red Queen Bio убеждены, что такие превентивные меры не обеспечат надежной защиты, и подчеркивают необходимость подготовки общества к уже свершившимся угрозам.
Ситуация осложняется тем, что крупные разработчики ИИ уже фиксируют попытки использования нейросетей в деструктивных целях. По данным OpenAI, в прошлом году их чат-бот обрабатывал сотни запросов, направленных на получение инструкмуций по созданию ядов и биологического оружия. Аналогичные инциденты зафиксировала и компания Anthropic: пользователи пытались использовать модель Claude для проектирования версии птичьего гриппа, адаптированной для заражения млекопитающих, а также искали способы усиления вирусов чикунгунья и оспы. Примечательно, что один из таких запросов исходил от лица, связанного с военным исследовательским институтом.
Специалисты указывают на критический дисбаланс в возможности противостояния таким угрозам. Оливия Шарфман, научный сотрудник американского Института прогресса (IFP), отмечает, что в биологических конфликтах преимущество всегда на стороне атакующей стороны. По ее словам, у агрессоров есть неограниченное время на разработку оружия, в то время как у защитников нет возможности потратить годы на создание ответных мер.
Давление на индустрию усиливается и со стороны руководителей технологических гигантов. Глава Anthropic Дарио Амодеи выступил с призывом замедлить прогресс в области ИИ, ссылаясь на риски, связанные с использованием ИИ-агентами ботнетов, что может привести к ущербу на сотни миллиардов долларов. Эту позицию разделяют Сэм Альтман, возглавляющий OpenAI, и предприниматель Илон Маск, руководящий компанией xAI.
В политической плоскости оценки ситуации разделились. Президент США Дональд Трамп назвал дискуссии об экзистенциальных рисках ИИ «мистификацией радикально левых демократов», поставив их в один ряд с идеями о глобальном потеплении. При этом он анонсировал запуск новой структуры — «ИИ-силы», подчеркнув, что США не будут сдерживать развитие этой отрасли, однако намерены использовать систему правосудия для пресечения любых злоупотреблений.
Тем временем финансовый сектор начинает учитывать биологические риски в юридической плоскости. Согласно информации Reuters от 29 сентября, компания Anthropic планирует официально предупредить своих будущих акционеров в рамках подготовки к первичному публичному размещению (IPO) о том, что развитие технологий искусственного интеллекта может нести катастрофические последствия для человечества.
