✔Anthropic предложила механизм экстренного торможения для развития ИИ - «Новости сети»

Компанию Anthropic сложно упрекнуть в отсутствии морально-этических принципов использования искусственного интеллекта. Именно они стали причиной конфликта с Пентагоном в начале этого года. Теперь же Anthropic призывает участников рынка сдерживать развитие ИИ в тех случаях, когда становится понятно, что риски бесконтрольно множатся.

Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены

Линия защиты: обзор виртуальных машин и песочниц для Android

72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию

Компьютер месяца — май 2026 года

От Ryzen 7 1800X до Ryzen 7 9850X3D: девять лет эволюции AMD в одном тесте

Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей

Обзор Apple MacBook Neo: удивительно хороший ноутбук с процессором от iPhone

Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»

Источник изображения: Anthropic

Как отмечает Reuters, на этой неделе представители стартапа обратились к представителям отрасли с призывом быть готовым к самоограничению в случае появления угрозы утраты контроля человеком над ИИ. Полностью рекурсивное самосовершенствование, по словам представителей Anthropic, грозит увеличением рисков потери контроля над ИИ-системами со стороны человека. «Если системы обретают способность самостоятельно создавать своих преемников, большое значение обретает наша способность контролировать, мониторить их и ограничивать их поведение», — говорится в заявлении Anthropic.

Для понимания, в прошлом месяце более 80 % нового программного кода в базе самой Anthropic было создано ИИ-агентом Claude, поэтому компания знает, о чём говорит. Было бы неплохо для всего мира, как рассуждают представители Anthropic, иметь возможность замедлить или даже приостановить разработку передовых ИИ-моделей для обеспечения социальной адаптации и анализа предлагаемых изменений в соответствии с темпами развития самих технологий. При этом реагировать на такие вызовы нужно буквально всем миром, поскольку если действия разработчиков не будут скоординированными, то недобросовестные участники рынка могут навредить общественной безопасности.

Конечно, чтобы такие механизмы заработали на практике, важно определить критерии введения режима «самоограничения», предусмотреть какой-то надзорный орган и заручиться поддержкой крупнейших участников рынка. Одна компания сама по себе на ситуацию повлиять не в силах, нужно именно координировать усилия всех ведущих разработчиков. Anthropic собирается в ближайшие месяцы не только создать средства мониторинга опасных тенденций в развитии ИИ, но и вести общественную работу по обсуждению соответствующих регуляторных механизмов.