Структура для оцінки цифрових і суміжних технологій, що швидко розвиваються: штучний інтелект, великі мовні моделі та інше

• Вступ 
• фон 
• Розробка аналітичної основи 
• Використання аналітичної основи 
• Розміри, які слід враховувати при оцінці нової технології 
• Шлях вперед 
• Подяки

Технології, що швидко розвиваються, створюють складні проблеми, коли йдеться про їх управління та потенційне регулювання. Політика та публічні дебати щодо штучного інтелекту (ШІ) та його використання привернули увагу до цих питань. Незважаючи на те, що загальні принципи штучного інтелекту були проголошені ЮНЕСКО, ОЕСР та іншими, і зараз ведуться дискусії щодо глобального чи юрисдикційного регулювання технології, існує онтологічний розрив між розробкою принципів високого рівня та їх включенням до регуляторних, політичних, підходи до управління та управління. Тут особливу роль могла б відіграти неурядова наукова спільнота. 

Кілька науковців та експертів із питань політики запропонували, щоб Міжнародна наукова рада (ISC) – із плюралістичним членством у соціальних і природничих науках – започаткувала процес створення та підтримки анотованої структури/переліку ризиків, переваг, загрози та можливості, пов’язані з цифровими технологіями, що швидко розвиваються, включаючи, але не обмежуючись ним, ШІ. Мета контрольного списку полягала б у тому, щоб поінформувати всіх зацікавлених сторін, включаючи уряди, учасників торгових переговорів, регуляторів, громадянське суспільство та промисловість, про потенційні майбутні сценарії, а також визначити, як вони можуть розглянути можливості, вигоди, ризики та інші питання. 

Результати діятимуть не як орган з оцінювання, а як адаптивна та розвиваюча аналітична структура, яка могла б підтримувати будь-які процеси оцінки та регулювання, які можуть бути розроблені зацікавленими сторонами, включаючи уряди та багатосторонню систему. В ідеалі будь-яку аналітичну структуру слід розробляти незалежно від претензій уряду та промисловості, враховуючи їхні зрозумілі інтереси. Вона також має бути максимально плюралістичною у своїх перспективах, таким чином охоплюючи всі аспекти технології та її наслідки. 

У цьому дискусійному документі представлено схему початкової основи для численних глобальних і національних дискусій, пов’язаних із ШІ. 

Швидка поява технології зі складністю та наслідками штучного інтелекту викликає багато заяв про великі переваги. Однак це також викликає побоювання значних ризиків, від індивідуального до геостратегічного рівня. Значна частина дискусій, як правило, відбувається на крайніх кінцях спектру поглядів, тому потрібен більш прагматичний підхід. Технології штучного інтелекту продовжуватимуть розвиватися, і історія показує, що практично кожна технологія має як користь, так і шкоду. Отже, постає питання: як ми можемо досягти корисних результатів від цієї технології, одночасно зменшуючи ризики шкідливих наслідків, деякі з яких можуть бути екзистенціальними за масштабами? 

Майбутнє завжди невизначене, але щодо ШІ та генеративного ШІ є достатньо надійних експертів, які заохочують до відносно обережного підходу. Крім того, необхідний системний підхід, оскільки ШІ — це клас технологій із широким використанням і застосуванням різними типами користувачів. Це означає, що під час розгляду наслідків штучного інтелекту для окремих осіб, соціального життя, громадянського життя, суспільного життя та в глобальному контексті необхідно брати до уваги весь контекст. 

На відміну від більшості минулих технологій, цифрові та суміжні технології мають дуже короткий проміжок часу від розробки до випуску, що значною мірою керується інтересами виробничих компаній або агентств. ШІ швидко поширюється; деякі властивості можуть стати очевидними лише після випуску, і технологія може мати як зловмисне, так і доброзичливе застосування. Важливі параметри цінностей впливатимуть на сприйняття будь-якого використання. Крім того, тут можуть бути геостратегічні інтереси. 

На сьогоднішній день регулювання віртуальної технології в основному розглядається через призму «принципів» і добровільного дотримання. Однак останнім часом дискусія звернулася до питань національного та багатостороннього управління, включаючи використання регуляторних та інших інструментів політики. Твердження на користь або проти штучного інтелекту часто є гіперболічними, і, враховуючи природу технології, їх важко оцінити. Створення ефективної глобальної або національної системи технологічного регулювання буде складним завданням, і вздовж ланцюга буде потрібно багато рівнів прийняття рішень з урахуванням ризиків, від винахідника до виробника, до користувача, до уряду та багатосторонньої системи. 

Незважаючи на те, що принципи високого рівня були оприлюднені ЮНЕСКО, ОЕСР та Європейською комісією, серед інших, і ведуться різноманітні дискусії на високому рівні щодо питань потенційного регулювання, існує великий онтологічний розрив між такими принципами та системою управління чи нормативною базою. Яку класифікацію міркувань, можливо, доведеться розглянути регулятору? Вузькоспеціалізоване формування було б нерозумним, враховуючи широкі наслідки цих технологій. Цей потенціал був предметом багатьох коментарів, як позитивних, так і негативних.

ISC є основною глобальною НУО, що об’єднує природничі та соціальні науки. Його глобальний і дисциплінарний охоплення означає, що він має хороші можливості для створення незалежних і глобально актуальних порад для інформування щодо складних виборів, які попереду, особливо тому, що нинішні голоси на цій арені в основному походять від промисловості або від великих технологічних держав. Після широкого обговорення протягом останніх місяців, включаючи розгляд неурядового процесу оцінки, ISC дійшов висновку, що його найбільш корисним внеском буде створення та підтримка адаптивної аналітичної структури, яка може бути використана як основа для дискурсу та прийняття рішень усі зацікавлені сторони, у тому числі під час будь-якого формального процесу оцінювання, що виникає. 

Ця структура матиме форму загального контрольного переліку, який могли б використовувати як урядові, так і неурядові установи. Структура визначає та досліджує потенціал таких технологій, як штучний інтелект та його похідних, через широкий об’єктив, який охоплює добробут людини та суспільства, а також зовнішні фактори, такі як економіка, політика, навколишнє середовище та безпека. Деякі аспекти контрольного списку можуть бути більш доречними, ніж інші, залежно від контексту, але кращі рішення більш імовірні, якщо врахувати всі домени. Це невід'ємна цінність підходу контрольного списку. 

Запропонована структура є похідною від попередньої роботи та мислення, включаючи звіт про цифровий добробут Міжнародної мережі державних наукових консультацій (INGSA).¹ та Рамкова класифікаційна система ШІ ОЕСР² представити сукупність потенційних можливостей, ризиків і наслідків ШІ. Ці попередні продукти були більш обмежені за своїм наміром, враховуючи їх час і контекст, існує потреба у всеохоплюючій структурі, яка представляє повний спектр питань як у короткостроковій, так і в довгостроковій перспективі. 

Незважаючи на те, що ця аналітична структура розроблена для розгляду ШІ, її можна застосувати до будь-якої технології, що швидко розвивається. Проблеми згруповані в такі категорії для подальшого вивчення: 

• Благополуччя (включаючи добробут окремих осіб або себе, суспільства та соціального життя, а також громадянського життя) 
• Торгівля та економіка 
• екологічна 
• Геостратегічні та геополітичні 
• Технологічні (характеристики системи, конструкція та використання) 

Перелік міркувань для кожної з вищевказаних категорій включено разом із відповідними можливостями та наслідками. Деякі з них актуальні для конкретних прикладів або програм ШІ, тоді як інші є загальними та не залежать від платформи чи використання. Жодне окреме міркування, включене тут, не повинно розглядатися як пріоритетне, і, таким чином, усі повинні бути розглянуті. 

Цю структуру можна використовувати, але не обмежуючи, такими способами: 

• Подолання розриву між принципами та оцінкою шляхом створення перевіреної загальної таксономії низки міркувань, які можуть бути використані відповідними зацікавленими сторонами як основа для інформування та формування подальшого мислення, включаючи будь-яку систему оцінювання, яку можуть розробити органи влади. 

• Для інформування оцінки впливу. Закон ЄС про штучний інтелект вимагає від організацій, які надають інструменти штучного інтелекту або застосовують штучний інтелект у своїх процесах, проводити оцінку впливу, щоб визначити ризик своїх ініціатив і застосувати відповідний підхід до управління ризиками. Представлену тут структуру можна використовувати як основу для цього. 

• Для посилення етичних принципів, необхідних для керівництва та управління використанням ШІ. Структура може зробити це, забезпечуючи гнучку основу, на якій можна розробляти надійні системи та забезпечуючи законне, етичне, надійне та відповідальне використання технології. Ці принципи можна перевірити на повному спектрі впливів, представлених у цій структурі. 
• Щоб полегшити аналіз існуючих заходів (тобто регуляторних, законодавчих, політичних) і виявити будь-які прогалини, які потребують подальшого розгляду. 

• Фреймворк не залежить від технології та її використання. Тому його можна використовувати в досить різних областях, таких як синтетична біологія. 

У наведеній нижче таблиці наведено раннє формування розмірів аналітичної структури. Залежно від технології та її використання одні компоненти будуть більш актуальними, ніж інші. Приклади наведено, щоб проілюструвати, чому кожен домен може мати значення; у контексті структура вимагала б контекстуально відповідного розширення. Також важливо розрізняти розробки платформи та загальні проблеми, які можуть виникнути під час конкретних програм.  

Початковий проект розмірів, які, можливо, слід враховувати при оцінці нової технології
Розміри впливу	Критерії	Приклади того, як це може бути відображено в аналізі
Індивід/сам	Компетентність AI користувачів	Наскільки компетентні та обізнані про властивості системи ймовірні користувачі, які взаємодіятимуть із системою? Як їм буде надано відповідну інформацію для користувачів і застереження?
	Зацікавлені сторони	Хто є основними зацікавленими сторонами, на яких впливатиме система (тобто окремі особи, громади, уразливі верстви населення, галузеві працівники, діти, політики, професіонали)?
	Необов’язковість	Чи надається користувачам можливість відмовитися від системи; чи варто їм давати можливість оскаржити або виправити результат?
	Ризики для прав людини та демократичних цінностей	Чи може система впливати (і в якому напрямку) на права людини, включаючи, але не обмежуючись цим, приватність, свободу вираження поглядів, справедливість, ризик дискримінації тощо?
	Потенційний вплив на добробут людей	Чи може система впливати (і в якому напрямку) на добробут окремого користувача (тобто на якість роботи, освіту, соціальні взаємодії, психічне здоров’я, особистість, оточення)?
	Потенціал трудового переміщення людини	Чи є у системи потенціал для автоматизації завдань або функцій, які виконувалися людьми? Якщо так, то які наступні наслідки?
	Можливість маніпулювання ідентичністю, цінностями чи знаннями	Чи розроблена система або потенційно здатна маніпулювати особою користувача чи набором цінностей або поширювати дезінформацію? Чи існує ймовірність хибних або неперевірених заяв про експертизу?
	Міри власної гідності	Чи існує тиск, щоб зобразити себе ідеалізованим? Чи може автоматизація замінити відчуття особистого задоволення? Чи існує тиск конкурувати з системою на робочому місці? Чи важче захистити індивідуальну репутацію від дезінформації?
	Конфіденційність	Чи існують розрізнені обов’язки щодо захисту конфіденційності та чи робляться якісь припущення щодо того, як використовуються особисті дані?
	Автономія	Чи може система вплинути на автономію людини, спричинивши надмірну залежність кінцевих користувачів від технології?
	Людський розвиток	Чи є вплив на набуття ключових навичок для розвитку людини, таких як виконавчі функції, навички міжособистісного спілкування, зміни часу концентрації уваги, що впливає на навчання, розвиток особистості, проблеми з психічним здоров’ям тощо?
	Догляд за особистим здоров'ям	Чи є претензії щодо персоналізованих рішень для охорони здоров’я? Якщо так, чи вони перевірені на відповідність нормативним стандартам?
	Психічне здоров'я	Чи існує ризик підвищеної тривоги, самотності чи інших проблем із психічним здоров’ям, чи може технологія пом’якшити такий вплив?
	Еволюція людини	Чи може ця технологія призвести до змін в еволюції людини?
Розміри впливу	Критерії	Опис
Суспільство/соціальне життя	Соціальні цінності	Чи система принципово змінює природу суспільства чи дає змогу нормалізувати ідеї, які раніше вважалися антисоціальними, чи вона порушує суспільні цінності культури, в якій вона застосована?
	Соціальна взаємодія	Чи це впливає на значущі людські контакти, включаючи емоційні стосунки?
	Капітал	Чи може застосування/технологія зменшити або посилити нерівність (тобто економічну, соціальну, освітню, географічну)?
	Здоров'я населення	Чи існує потенціал для системи просування або підриву намірів щодо здоров’я населення?
	Культурне вираження	Чи ймовірно чи важче впоратися зі зростанням культурного присвоєння чи дискримінації? Чи потенційно опора на систему прийняття рішень виключає або маргіналізує верстви суспільства?
	Громадська освіта	Чи це впливає на ролі вчителя чи освітні установи? Система підкреслює чи зменшує нерівність між студентами та цифровий розрив? Внутрішня цінність знань або критичного розуміння підвищена чи занижена?
	Спотворені реалії	Чи методи, які ми використовуємо, щоб розпізнати правду, досі застосовні? Чи скомпрометовано сприйняття реальності?
Економічний контекст (торгівля)	Промисловий сектор	У якому промисловому секторі використовується система (тобто фінанси, сільське господарство, охорона здоров’я, освіта, оборона)?
	Бізнес-модель	У якій бізнес-функції використовується система і в якій якості? Де використовується система (приватна, державна, некомерційна)?
	Вплив на критичну діяльність	Чи вплине збій у функціонування або діяльність системи на основні служби чи критичну інфраструктуру?
	Дихання розгортання	Як розгортається система (вузько в межах організації чи широко поширена на національному/міжнародному рівні)?
	Технічна зрілість (TRL)	Наскільки технічно зріла система?
	Технологічний суверенітет	Чи сприяє технологія більшій концентрації технологічного суверенітету.
	Перерозподіл доходів і національні фіскальні важелі	Чи можуть бути поставлені під загрозу основні ролі суверенної держави (тобто Резервних банків)? Чи буде здатність держави задовольняти очікування громадян і відповідати наслідкам (тобто, соціальним, економічним, політичним) або зменшуватися?
Розміри впливу	Критерії	Опис
Громадянське життя	Управління та державна служба	Чи можна вплинути на механізми управління та глобальні системи управління позитивно чи негативно?
	ЗМІ новини	Чи може публічний дискурс стати більш-менш поляризованим і закріпленим на рівні населення? Чи вплине це на рівень довіри до ЗМІ? Чи це вплине на звичайну журналістську етику та стандарти чесності?
	Верховенство права	Чи це вплине на здатність ідентифікувати осіб або організації, яких слід притягнути до відповідальності (тобто, яку відповідальність призначити алгоритму для несприятливих результатів)? Чи призводить це до втрати суверенітету (тобто екологічної, фіскальної, соціальної політики, етики)?
	Політика та соціальна згуртованість	Чи є ймовірність більш укорінених політичних поглядів і менше можливостей для досягнення консенсусу? Чи існує можливість подальшої маргіналізації груп? Змагальні стилі політики більш чи менш вірогідні?
Геостратегічний/геополітичний контекст	Точне спостереження	Чи навчаються системи на індивідуальних поведінкових і біологічних даних, і якщо так, чи можуть вони використовуватися для експлуатації окремих осіб або груп?
	Цифрова колонізація	Чи здатні державні чи недержавні суб’єкти використовувати системи та дані, щоб розуміти та контролювати населення та екосистеми інших країн або підривати юрисдикційний контроль?
	Геополітична конкуренція	Чи впливає система на конкуренцію між державами та технологічними платформами за доступ до індивідуальних і колективних даних для економічних чи стратегічних цілей?
	Торгівля і торговельні угоди	Чи впливає система на міжнародні торгові угоди?
	Зміна глобальних сил	Чи статус національних держав як головних геополітичних акторів світу знаходиться під загрозою? Чи будуть технологічні компанії володіти владою, яка колись була закріплена за національними державами, і чи стануть вони незалежними суверенними акторами?
	Дезинформація	Чи легше державним і недержавним акторам виробляти та поширювати дезінформацію, яка впливає на соціальну згуртованість, довіру та демократію?
екологічна	Споживання енергії та ресурсів (вуглецевий слід)	Чи система та вимоги збільшують споживання енергії та ресурсів понад підвищення ефективності, отримане за допомогою застосування?
Розміри впливу	Критерії	Опис
Дані та введення	Виявлення та збір	Дані та вхідні дані збираються людьми, автоматизованими датчиками чи тим і іншим?
	Походження даних	Що стосується даних, чи вони надані, спостережувані, синтетичні чи похідні? Чи існують водяні знаки для підтвердження походження?
	Динамічний характер даних	Дані динамічні, статичні, оновлюються час від часу чи оновлюються в режимі реального часу?
	Права	Чи є дані конфіденційними, публічними чи особистими (тобто пов’язаними з особами, які можна ідентифікувати)?
	Ідентифікація персональних даних	Якщо персональні дані, чи вони анонімні чи псевдонімізовані?
	Структура даних	Чи є дані структурованими, напівструктурованими, складно структурованими чи неструктурованими?
	Формат даних	Формат даних і метаданих стандартизований чи нестандартизований?
	Масштаб даних	Який масштаб набору даних?
	Відповідність і якість даних	Чи підходить набір даних для цілей? Чи адекватний розмір вибірки? Чи достатньо він репрезентативний і повний? Наскільки зашумлені дані? Це схильне до помилок?
Model	Доступність інформації	Чи доступна інформація про модель системи?
	Тип моделі ШІ	Чи є модель символічною (правила, створені людиною), статистичною (використовує дані) чи гібридною?
	Права, пов'язані з моделлю	Модель із відкритим вихідним кодом чи пропрієтарною, керованою самостійно чи третьою стороною?
	Одна або кілька моделей	Система складається з однієї моделі чи кількох взаємопов’язаних моделей?
	Генеративний або дискримінативний	Чи є модель генеративною, дискримінаційною чи обома?
	Будівництво моделі	Чи навчається система на основі написаних людиною правил, з даних, через контрольоване навчання чи через навчання з підкріпленням?
	Еволюція моделі (дрейф ШІ)	Чи розвивається модель та/або набуває можливостей завдяки взаємодії з даними в полі?
	Федеративне або централізоване навчання	Модель навчена централізовано чи на кількох локальних серверах чи «граничних» пристроях?
	Розробка та супровід	Чи є модель універсальною, настроюваною чи адаптованою до даних актора ШІ?
	Детермінований або імовірнісний	Чи використовується модель у детермінований чи ймовірнісний спосіб?
	Прозорість моделі	Чи доступна інформація для користувачів, щоб вони могли зрозуміти результати моделі та обмеження чи використовувати обмеження?
	Обмеження обчислень	Чи існують обчислювальні обмеження системи? Чи можемо ми передбачити стрибки можливостей або закони масштабування?
Розміри впливу	Критерії	Опис
Завдання і вихід	Завдання, які виконує система	Які завдання виконує система (наприклад, розпізнавання, виявлення подій, прогнозування)?
	Поєднання завдань і дій	Чи поєднує система декілька завдань і дій (тобто системи генерування контенту, автономні системи, системи керування)?
	Рівень автономності системи	Наскільки автономними є дії системи і яку роль відіграють люди?
	Ступінь участі людини	Чи існує певна участь людини для нагляду за загальною діяльністю системи ШІ та здатності вирішувати, коли та як використовувати систему в будь-якій ситуації?
	Основна програма	Чи належить система до основної сфери застосування, такої як технології людської мови, комп’ютерне зір, автоматизація та/або оптимізація чи робототехніка?
	Оцінка	Чи доступні стандарти або методи для оцінки виходу системи або роботи з непередбаченими аварійними властивостями?

Ключ до джерела дескрипторів

Простий текст:
Глакман, П. та Аллен, К. 2018. Розуміння добробуту в контексті швидких цифрових та пов’язаних з ними трансформацій. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Жирний текст:
OECD. 2022 рік. Структура ОЕСР для класифікації систем ШІ. OECD Digital Economy Papers, № 323, OECD Publishing, Париж. https://oecd.ai/en/classification 

Курсивний текст:
Нові дескриптори (з кількох джерел) 

Залежно від відповіді на цей дискусійний документ, ISC сформує робочу групу експертів для подальшого розвитку або внесення змін до вищезазначеної аналітичної основи, за допомогою якої зацікавлені сторони зможуть всебічно розглядати будь-які значні зміни платформ або параметрів використання. Робоча група матиме дисциплінарний, географічний та демографічний розмаїтість, її досвід охоплюватиме від оцінки технологій до державної політики, від людського розвитку до соціології та досліджень майбутнього та технологій. 

Щоб взяти участь у цьому документі для обговорення, відвідайте Council.science/publications/framework-digital-technologies 

Під час розробки цієї статті, яку підготували сер Пітер Глакман, президент ISC, і Хема Срідхар, колишній головний науковий співробітник Міністерства оборони, а нині старший науковий співробітник Університету Окленда, Нова Зеландія, було проведено консультації з багатьма людьми. 

Зокрема, ми дякуємо лорду Мартіну Різу, колишньому президенту Королівського товариства та співзасновнику Центру вивчення екзистенціальних ризиків Кембриджського університету; Професор Шіваджі Сонді, професор фізики Оксфордського університету; професор К. Віджай Рагхаван, колишній головний науковий радник уряду Індії; Амандіп Сінгх Гілл, посланник Генерального секретаря ООН з питань технологій; д-р Seán Óh Éigeartaigh, виконавчий директор Центру вивчення екзистенціальних ризиків Кембриджського університету; Аманда-Джун Браунер, старший політичний радник, і Ян Віггінс, директор з міжнародних справ Королівського товариства Великобританії; д-р Джером Дюбері, д-р Марі-Лор Саллес, директор Женевського інституту вищої освіти; Пан Чор Фарн Лі, Центр стратегічного майбутнього, Офіс прем’єр-міністра, Сінгапур; Баренд Монс і доктор Саймон Ходсон, Комітет з даних (CoDATA); професор Юко Хараяма, Японія; професор Ремі Квіріон, президент INGSA; д-р Клер Крейг, Оксфордський університет і колишній керівник відділу прогнозування, Урядовий офіс науки; та професор Йошуа Бенгіо, Науково-консультативна рада Генерального секретаря ООН та Університет Монреаля. Підхід до контрольного списку був загалом схвалений, і було наголошено на своєчасності будь-яких дій ISC.