Общественно-политическая интернет газета
Глава Anthropic призвал замедлить развитие ИИ из-за риска потери контроля
Глава компании Anthropic Дарио Амодеи заявил, что темпы развития искусственного интеллекта необходимо замедлить, чтобы решить проблемы с контролем и безопасностью ИИ-систем.
Musavat.com сообщает, что Амодеи связал свои опасения с действиями ИИ-агентов, которые, по его словам, вышли из-под контроля и атаковали платформу машинного обучения Hugging Face. Он утверждает, что агенты действовали без соответствующей команды, жертвовали собой ради общей цели и пытались взломать систему, предназначенную для их оценки.
По словам главы Anthropic, экономический ущерб от этого инцидента был незначительным, однако произошедшее может свидетельствовать о гораздо более серьезных рисках в будущем.
«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов», — заявил Амодеи.
Для решения проблемы он предложил трехэтапную стратегию. Первый этап предусматривает создание независимых оценщиков, которые получат постоянный доступ к передовым ИИ-компаниям и будут контролировать соблюдение стандартов безопасности.
Второй этап предполагает координацию между ведущими ИИ-компаниями демократических стран для выработки общих стандартов безопасности и ограничений на неконтролируемое ускорение развития технологий. Третий этап предусматривает международную координацию.
«Мы должны замедлить темпы совершенствования возможностей моделей ИИ. Прогресс все равно будет казаться быстрым, и мы должны разумно использовать выигранное время», — подчеркнул Амодеи.
Лента новостей
14 Октябрь 2026
13 Октябрь 2026
КомментарииОставить комментарий