Складність завдань, з якими справляються ШІ-системи, подвоюється кожні чотири-сім місяців. Це не маркетинговий слоган — такий висновок містить перший в історії незалежний глобальний науковий звіт про штучний інтелект, підготовлений на замовлення ООН.
Сорок учених з різних регіонів світу під керівництвом лауреата премії Тьюринга Йошуа Бенжіо оцінили ризики та можливості ШІ. Їхній головний висновок незручний: технологія розвивається швидше, ніж наука встигає її вивчити, а уряди — виробити адекватні правила. Жодних гарантій того, що ШІ не завдасть катастрофічної шкоди, просто не існує.
Серед конкретних загроз — втрата контролю над автономними агентними системами, хвиля дезінформації, кібератаки нового рівня та ризик використання ШІ для створення біологічних загроз. При цьому глобальне регулювання роздроблене: більшість країн не мають інструментів навіть для оцінки передових ШІ-систем, не кажучи вже про те, щоб їх направляти.
Звіт буде представлений на першому Глобальному діалозі ООН з управління ШІ в Женеві 6–7 липня. Паралельно оголошено про створення Глобальної комісії «ШІ для блага» під керівництвом президента Руанди Поля Кагаме та CEO Salesforce Марка Бенюоффа.
Вчені не закликають зупиняти прогрес — вони визнають величезний потенціал ШІ у медицині та науці. Але вони прямо кажуть: компанії запускають системи швидше, ніж перевіряють їх безпеку, створюючи «гонку на дно» за стандартами. У Женеві уряди вперше отримують шанс разом сформулювати відповідь.
