ИИ Claude пытались использовать для создания биологического оружия. Anthropic заявила, что эти попытки были пресечены

Компания Anthropic заявила, что заблокировала деятельность неназванных пользователей, которые пытались использовать ее модели искусственного интеллекта для исследований, способных привести к созданию биологического оружия. Это лишь один из выявленных случаев вредоносного использования моделей ИИ Claude.

«Примеры, которые мы описываем, это не типичные случаи злоупотребления [моделями], а в большей степени примеры самой заметной и новой деятельности, представляющей угрозу, которую мы идентифицировали на сегодняшний день», — говорится в отчете Anthropic о злоупотреблении ИИ, опубликованном 10 сентября.

В докладе компании приведены примеры кода и ИИ-промптов, потенциально представляющих угрозу. Anthropic призвала правительства стран и другие компании, разрабатывающие ИИ, найти и предотвратить возможность подобного злоупотребления моделями.

«Мы публикуем этот отчет, потому что мы верим, что у нас есть обязанность раскрывать случаи злонамеренного злоупотребления нашими сервисами», — пояснили в компании.

Исследователи Anthropic обнаружили случаи злоупотребления моделями в период с декабря 2025 по август 2026 года — со стороны разработчиков шпионского ПО, «политически мотивированных лиц» и спонсируемых государствами групп, занимающихся распространением пропаганды.

Синтез новых патогенов

Пять примеров в отчете касаются потенциального создания биологического оружия. Среди них — запрос на помощь в написании заявки на научный грант.

В нем, говорится в отчете, пользователь Claude хотел подать заявку на исследование, которое позволило бы генетически изменить вирус чикунгунья. Предлагалось изменить свойства вируса, такие как его заразность и способность обходить иммунную систему. В Anthropic отмечают, что, хотя такое исследование может помочь в разработке вакцин и лекарств, «оно также может быть использовано, чтобы сделать патоген более опасным».

Лишь один пример в отчете компании касается их новейших моделей. Anthropic называет его «тайной кампанией промышленных масштабов, чтобы вычислить способности модели и реплицировать их без разрешения». Более старые модели, говорят в компании, не могли существенно помочь пользователю «провести опасное биологическое исследование», поэтому и меры предосторожности в них были менее строгими.

В новых моделях, заверяет Anthropic, меры предосторожности строже, и пользователям ограничен доступ к «широкому списку запросов о биологических исследованиях двойного назначения».

Американские компании, разрабатывающие большие языковые модели, уже не раз били тревогу по поводу того, что ИИ значительно упрощает исследования в области синтетической биологии. Так, глава OpenAI Сэм Альтман был одним из источников книги Энни Джейкобсен Biological War: A Scenario, вышедшей в июле. В ней конструируется вымышленный сценарий пандемии, вызванной утечкой из российской лаборатории генно-модифицированного возбудителя чумы.

Во вторник Google опубликовал отчет, в котором говорится, что пользователь пытался получить у чатбота Gemini «пошаговую техническую инструкцию для синтеза биологических агентов, которые можно использовать в качестве оружия»

Биологическое оружие прямо запрещено Конвенцией по биологическому оружию, но никаких механизмов надзора за соблюдением этого запрета конвенция не предусматривает. Кроме того, специалисты отмечают, что число биологических лабораторий в мире растет, утечки патогенов из них уже происходили, а полностью исключить риск новых утечек невозможно.

В шести других разобранных в отчете примерах пользователи пытались использовать Claude для создания программного обеспечения для традиционных видов оружия.

Также в отчете Anthropic упоминаются примеры злоупотребления моделями, которые совершили лица, связанные с разными государствами, в том числе с Ираном, Мали, Китаем и Россией.

В частности, Anthropic описывает использование моделей для распространения контента российскими государственными СМИ для аудитории в Молдове, Латинской Америке и Африке.

Среди других примеров — попытка использовать ИИ для фишинга, предпринятая пользователем, похожим по манере поведения на связанную с Россией хакерскую группировку Midnight Blizzard. Также в отчете говорится о русскоязычном пользователе, который использовал Claude для внедрения пророссийских и антифранцузских нарративов в новости одной из радиостанций Центральноафриканской Республики.

Кроме того, в отчете Anthropic говорится, что компания выявила случаи, когда китайская DeepSeek использовала Claude вместо собственных моделей ИИ. В одном из таких случаев через Claude передавались запросы, содержавшие действующие учетные данные для доступа к российской государственной базе данных. Как утверждает Anthropic, эти запросы исходили от «российского правительственного ведомства, связанного с Министерством обороны», однако других подробностей компания не приводит.

Отчет Anthropic был опубликован через два дня после того, как один из сотрудников компании, исследователь Джейкоб Коксон, уволился из-за опасений по поводу того, что компании не ведут себя ответственно, когда дело касается разработки ИИ, и не уделяют достаточно внимания безопасности.

В то же время другой сотрудник Anthropic, Иван Хьюбингер, заявил, что, по его мнению, шансы того, что ИИ в ближайшее десятилетие уничтожит человечество, превышают 10%.

Скачайте новое приложение BBC World Service!

При первом открытии приложения выберите «BBC News Русская служба» и получайте уведомления о важных новостях, аналитике, видео и подкастах.

Важно: новое приложение недоступно на территории Великобритании и США.