Сложность задач, с которыми справляются ИИ-системы, удваивается каждые четыре-семь месяцев. Это не рекламный слоган — такой вывод содержится в первом за всю историю независимом глобальном научном докладе об искусственном интеллекте, подготовленном по заказу ООН.
Сорок учёных из разных регионов мира под руководством нобелевского лауреата Йошуа Бенжио провели оценку рисков и возможностей ИИ. Их главный вывод неудобен: технологии развиваются быстрее, чем наука успевает их изучить, а правительства — выработать адекватные правила. Никаких гарантий того, что ИИ не нанесёт катастрофического вреда, попросту не существует.
Среди конкретных угроз эксперты называют потерю контроля над автономными агентными системами, лавину дезинформации, кибератаки нового уровня и риск использования ИИ для создания биологических угроз. При этом глобальное регулирование раздроблено: большинство стран не имеют инструментов, чтобы оценивать технологии — не говоря уж о том, чтобы их направлять. Они просто зависят от того, что не понимают.
Доклад будет представлен на первом Глобальном диалоге ООН по управлению ИИ в Женеве 6–7 июля. Параллельно объявлено о создании Глобальной комиссии «ИИ для блага», которую возглавят президент Руанды Поль Кагаме и CEO Salesforce Марк Бениофф.
Учёные не призывают останавливать прогресс: в докладе признаётся огромный потенциал ИИ в медицине, образовании и науке. Но они прямо говорят: конкурентная гонка, в которой компании выпускают системы быстрее, чем проверяют их безопасность, создаёт «гонку ко дну» по стандартам. Правительства получают в Женеве шанс впервые сформулировать общий ответ.
