Ждёт ли нас "восстание машин"?

Эксперты потребовали приостановить обучение мощных моделей искусственного интеллекта

29 марта более тысячи отраслевых экспертов, включая Илона Маска и одного из создателей корпорации Apple Стива Возняка, призвали на шесть месяцев приостановить обучение языковых моделей мощнее, чем GPT-4 от компании OpenAI. Соответствующее открытое письмо Института будущего жизни подписали учёные, независимые исследователи и представители бизнеса. Эксперты считают, что разработку продвинутого искуственного интеллекта следует приостановить до тех пор, пока не будут разработаны общие протоколы безопасности для этого. Мощные системы искусственного интеллекта следует разрабатывать лишь тогда, когда есть уверенность в том, что эффект от таких систем будет положительным, а риски - управляемыми.

Обеспокоенность представителей отрасли возрасла в связи с активным развитием больших языковых моделей и чат-ботов на их основе. С момента анонса ChatGPT в ноябре 2022 года техгиганты и стартапы вступили в новую ИИ-гонку. В феврале 2023 Microsoft и Google практически одновременно представили поисковые сервисы на базе диалоговых алгоритмов. В марте этого года компания OpenAI открыла доступ к API ChatGPT, что позволило десяткам компаний интегрировать чат-бота в собственные приложения.
В упомянутом выше открытом письме, подробно описаны потенциальные угрозы для общества и цивилизации со стороны новых ИИ-систем, включающие в себя возможные экономические и политические потрясения. В марте об угрозах со стороны ChatGPT предупреждал Европол (полицейская служба Европейского союза, расположенная в Гааге).
Законы в отношении ИИ уже приняли страны ЕС и Китай. Однако очевидно, что регулировать отрасль искусственного интеллекта чрезвычайно сложно.
По материалам Телеграм-каналала "Чёрный треугольник" и портала forklog.com