Anthropic предложила механизм экстренного торможения для развития ИИ

Компанию Anthropic сложно упрекнуть в отсутствии морально-этических принципов использования искусственного интеллекта. Именно они стали причиной конфликта с Пентагоном в начале этого года. Теперь же Anthropic призывает участников рынка сдерживать развитие ИИ в тех случаях, когда становится понятно, что риски бесконтрольно множатся.

10 флагманских процессоров Intel за 10 лет

Сравнительный тест камер флагманских смартфонов (2026): итоги

Компьютер месяца, спецвыпуск: во что дефицит чипов памяти превратил бюджетные игровые ПК и при чем здесь Steam Machine

Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Источник изображения: Anthropic

Как отмечает Reuters, на этой неделе представители стартапа обратились к представителям отрасли с призывом быть готовым к самоограничению в случае появления угрозы утраты контроля человеком над ИИ. Полностью рекурсивное самосовершенствование, по словам представителей Anthropic, грозит увеличением рисков потери контроля над ИИ-системами со стороны человека. «Если системы обретают способность самостоятельно создавать своих преемников, большое значение обретает наша способность контролировать, мониторить их и ограничивать их поведение», — говорится в заявлении Anthropic.

Для понимания, в прошлом месяце более 80 % нового программного кода в базе самой Anthropic было создано ИИ-агентом Claude, поэтому компания знает, о чём говорит. Было бы неплохо для всего мира, как рассуждают представители Anthropic, иметь возможность замедлить или даже приостановить разработку передовых ИИ-моделей для обеспечения социальной адаптации и анализа предлагаемых изменений в соответствии с темпами развития самих технологий. При этом реагировать на такие вызовы нужно буквально всем миром, поскольку если действия разработчиков не будут скоординированными, то недобросовестные участники рынка могут навредить общественной безопасности.

Конечно, чтобы такие механизмы заработали на практике, важно определить критерии введения режима «самоограничения», предусмотреть какой-то надзорный орган и заручиться поддержкой крупнейших участников рынка. Одна компания сама по себе на ситуацию повлиять не в силах, нужно именно координировать усилия всех ведущих разработчиков. Anthropic собирается в ближайшие месяцы не только создать средства мониторинга опасных тенденций в развитии ИИ, но и вести общественную работу по обсуждению соответствующих регуляторных механизмов.