Руководство для политиков: оценка быстро развивающихся технологий, включая искусственный интеллект, большие языковые модели и многое другое

Быстро развивающиеся технологии создают сложные проблемы, когда речь идет об их использовании, управлении и потенциальном регулировании. Продолжающаяся политика и общественные дебаты по поводу искусственного интеллекта (ИИ) и его использования поставили эти вопросы в центр внимания. Широкие принципы ИИ были объявлены ЮНЕСКО, ОЭСР, ООН и другими организациями, включая Декларацию Блетчли Соединенного Королевства, и появляются новые юрисдикционные попытки регулирования аспектов технологии через, например, Европейский Союз (ЕС). Закон или недавний исполнительный указ США по искусственному интеллекту.

Хотя использование ИИ подробно обсуждается на этих и других форумах, несмотря на геополитические разногласия и в странах с любым уровнем дохода, остается онтологический разрыв между разработкой принципов высокого уровня и их внедрением в практику посредством либо регулирования, политики, управления. или подходы управления. Путь от принципа к практике плохо определен, но, учитывая характер и темпы разработки и применения ИИ, разнообразие вовлеченных интересов и диапазон возможных применений, любой подход не может быть слишком общим или предписывающим.

По этим причинам неправительственное научное сообщество продолжает играть особую роль. Международный научный совет (ISC), в который входят представители социальных и естественных наук, в октябре 2023 года опубликовал дискуссионный документ, в котором представлена ​​предварительная аналитическая основа, в которой рассматриваются риски, преимущества, угрозы и возможности, связанные с быстро развивающимися цифровыми технологиями. Хотя он был разработан для рассмотрения ИИ, он по своей сути не зависит от технологий и может применяться к ряду новых и прорывных технологий, таких как синтетическая биология и квантовая технология. Этот дискуссионный документ позволил получить обратную связь от ученых и политиков. Огромное количество отзывов сделало проведение такого анализа необходимым и стало ценным подходом к решению проблем новых технологий, таких как искусственный интеллект.

Целью системы является предоставление инструмента для информирования всех заинтересованных сторон – включая правительства, участников торговых переговоров, регулирующие органы, гражданское общество и промышленность – об эволюции этих технологий, чтобы помочь им определить, как они могут рассматривать последствия, положительные или отрицательные, сама технология, а точнее ее конкретное применение. Эта аналитическая основа была разработана независимо от интересов правительства и промышленности. Он максимально плюралистичен в своих взглядах, охватывая все аспекты технологии и ее последствий, основанный на обширных консультациях и отзывах.

Этот дискуссионный документ для политиков не предназначен для того, чтобы запретить режим регулирования, а, скорее, для того, чтобы предложить адаптивную и развивающуюся аналитическую структуру, которая могла бы лежать в основе любых процессов оценки и регулирования, которые могут быть разработаны заинтересованными сторонами, включая правительства и многостороннюю систему.

Поскольку лица, принимающие решения на глобальном и национальном уровне, рассматривают соответствующие параметры политики и рычаги, чтобы сбалансировать риски и выгоды от новой технологии, такой как ИИ, аналитическая основа задумана как дополнительный инструмент, обеспечивающий адекватное отражение всего набора потенциальных последствий.

Быстрое появление технологий со сложностью и последствиями искусственного интеллекта порождает множество заявлений об их огромной выгоде. Однако это также провоцирует опасения значительных рисков, от индивидуального до геостратегического уровня.¹ Большая часть дискуссий до сих пор рассматривалась в бинарном смысле, поскольку публично выражаемые взгляды, как правило, занимают крайние точки спектра. Заявления, выдвигаемые за или против ИИ, часто преувеличены, и, учитывая природу технологии, их трудно оценить.

Необходим более прагматичный подход, при котором гипербола заменяется выверенными и более детальными оценками. Технология искусственного интеллекта будет продолжать развиваться, и история показывает, что практически каждая технология имеет как полезное, так и вредное применение. Поэтому вопрос заключается в следующем: как мы можем добиться полезных результатов от этой технологии, одновременно снижая риск вредных последствий, некоторые из которых могут иметь экзистенциальные масштабы?

Будущее всегда неопределенно, но существует достаточно авторитетных и экспертных мнений относительно ИИ и генеративного ИИ, чтобы поощрять относительно осторожный подход. Кроме того, необходим системный подход, поскольку ИИ — это класс технологий, широко используемый и применяемый разными типами пользователей. Это означает, что при рассмотрении последствий любого использования ИИ для отдельных лиц, социальной жизни, гражданской жизни, общественной жизни и в глобальном контексте необходимо учитывать весь контекст.

В отличие от большинства других технологий, для цифровых и связанных с ними технологий время между разработкой, выпуском и применением чрезвычайно короткое, что во многом обусловлено интересами производственных компаний или агентств. По самой своей природе – и учитывая, что он основан на цифровой магистрали – ИИ будет иметь приложения, которые будут быстро распространяться, как это уже было видно при разработке больших языковых моделей. В результате некоторые свойства могут проявиться только после высвобождения, а это означает, что существует риск непредвиденных последствий, как злонамеренных, так и доброжелательных.

Важные аспекты социальных ценностей, особенно в разных регионах и культурах, будут влиять на то, как любое использование будет восприниматься и приниматься. Более того, геостратегические интересы уже доминируют в дискуссиях, при этом суверенные и многосторонние интересы постоянно пересекаются и, таким образом, вызывают конкуренцию и разногласия.

На сегодняшний день большая часть регулирования виртуальных технологий в основном рассматривается через призму «принципов» и добровольного соблюдения, хотя и с учетом Закона ЕС об искусственном интеллекте.² и аналогичным образом мы наблюдаем переход к более обязательным, но несколько узким правилам. Создание эффективной глобальной или национальной системы управления технологиями и/или регулирования остается сложной задачей, и очевидного решения не существует. По всей цепочке от изобретателя к производителю, пользователю, правительству и многосторонней системе потребуются многочисленные уровни принятия решений с учетом рисков.

Хотя принципы высокого уровня были провозглашены, среди прочего, ЮНЕСКО, ОЭСР, Европейской комиссией и ООН, а также продолжаются различные дискуссии на высоком уровне относительно вопросов потенциального управления, регулирования, этики и безопасности, существует большой разрыв между такими принципы, а также структуру управления или регулирования. Это необходимо решить.

В качестве отправной точки ISC рассматривает разработку таксономии соображений, на которые мог бы ссылаться любой разработчик, регулирующий орган, политический советник, потребитель или лицо, принимающее решения. Учитывая широкие последствия этих технологий, такая таксономия должна учитывать совокупность последствий, а не узконаправленную структуру. Глобальная фрагментация усиливается из-за влияния геостратегических интересов на принятие решений, и, учитывая актуальность этой технологии, крайне важно, чтобы независимые и нейтральные голоса настойчиво отстаивали единый и инклюзивный подход.

---

1) Индостан Таймс. 2023. G20 должна создать международную группу по технологическим изменениям.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Закон ЕС об искусственном интеллекте. 2023. https://artificialintelligenceact.eu.

ISC является основной глобальной неправительственной организацией, объединяющей естественные и социальные науки. Его глобальный и дисциплинарный охват означает, что он имеет хорошие возможности для выработки независимых и глобально актуальных рекомендаций для информирования о сложных решениях, которые предстоит принять, особенно с учетом того, что нынешние голоса на этой арене исходят в основном от промышленности или политических и политических сообществ крупных технологических держав.

После периода обширных обсуждений, которые включали в себя рассмотрение процесса неправительственной оценки, ISC пришел к выводу, что его наиболее полезным вкладом будет создание адаптивной аналитической структуры, которая может использоваться в качестве основы для обсуждения и принятия решений всеми заинтересованными сторонами, в том числе в ходе любых формальных процессов оценки.

Предварительная аналитическая основа, которая была опубликована для обсуждения и отзывов в октябре 2023 года, приняла форму всеобъемлющего контрольного списка, предназначенного для использования как государственными, так и неправительственными учреждениями. В рамках этой концепции был определен и исследован потенциал такой технологии, как ИИ и его производные, через широкую призму, охватывающую благополучие человека и общества, а также внешние факторы, такие как экономика, политика, окружающая среда и безопасность. Некоторые аспекты контрольного списка могут быть более актуальными, чем другие, в зависимости от контекста, но лучшие решения кажутся более вероятными, если рассматривать все области, даже если некоторые из них можно быстро определить как нерелевантные в конкретных случаях. В этом заключается неотъемлемая ценность подхода, основанного на контрольном списке.

Предварительная основа была основана на предыдущей работе и размышлениях, включая отчет Международной сети правительственных научных консультаций (INGSA) о цифровом благополучии3 и Рамочную программу ОЭСР по классификации систем искусственного интеллекта4, чтобы представить всю совокупность потенциальных возможностей, рисков и воздействий. ИИ. Эти предыдущие продукты были более ограничены в своих целях, учитывая их время и контекст; существует потребность в всеобъемлющей системе, которая бы охватывала весь спектр вопросов как в краткосрочной, так и в долгосрочной перспективе.

С момента своего выпуска дискуссионный документ получил значительную поддержку со стороны многих экспертов и политиков. Многие специально поддержали рекомендацию разработать адаптивную структуру, которая позволит сознательно и активно учитывать риски и последствия технологии и при этом всегда учитывать всю совокупность измерений, от человека до общества и систем.

Одним из ключевых наблюдений, сделанных в ходе обратной связи, было признание того, что некоторые из последствий, рассматриваемых в рамках, по своей сути многогранны и охватывают множество категорий. Например, дезинформацию можно рассматривать как с индивидуальной, так и с геостратегической точки зрения; таким образом, последствия будут самыми разнообразными.

Также был предложен вариант включения тематических исследований или примеров для проверки структуры. Это можно использовать для разработки руководящих принципов, демонстрирующих, как их можно использовать на практике в различных контекстах. Однако это будет серьезной задачей и может ограничить то, как разные группы воспринимают использование этой структуры. Лучше всего это будет делать политикам, работающим с экспертами в конкретных юрисдикциях или контекстах.

С октября 2023 года было реализовано несколько важных национальных и многосторонних инициатив, направленных на дальнейшее рассмотрение вопросов этики и безопасности ИИ. Последствия ИИ для целостности некоторых наших важнейших систем, включая финансовую, правительственную, правовую и образовательную, а также различных систем знаний (включая научные и местные знания), вызывают растущую обеспокоенность. Пересмотренная система дополнительно отражает эти аспекты.

Полученные на сегодняшний день отзывы отражены в пересмотренной версии аналитической основы, которая теперь выпущена в качестве руководства для политиков.

Хотя эта концепция представлена ​​в контексте ИИ и связанных с ней технологий, ее можно сразу же перенести на рассмотрение других быстро развивающихся технологий, таких как квантовая и синтетическая биология.

---

3) Глакман П. и Аллен К. 2018. Понимание благополучия в контексте быстрых цифровых и связанных с ними преобразований. ИНГСА.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) ОЭСР. 2022. Рамки ОЭСР для классификации систем искусственного интеллекта. Документы ОЭСР по цифровой экономике, № 323,#. Париж, Издательство ОЭСР.
https://oecd.ai/en/classificatio

В следующей таблице представлены размеры предполагаемой аналитической структуры. Приводятся примеры, иллюстрирующие, почему каждый домен может иметь значение; в контексте рамки потребуют контекстуально соответствующего расширения. Также важно различать общие проблемы, возникающие при разработке платформы, и проблемы, которые могут возникнуть при разработке конкретных приложений. Ни одно из включенных здесь соображений не должно рассматриваться как приоритетное, и поэтому следует рассмотреть все.

Проблемы в целом сгруппированы по следующим категориям, как указано ниже:

• Благополучие (включая благополучие отдельных лиц или самого себя, общества, социальной и гражданской жизни)
• Торговля и экономика
• Экологические исследования георадаром
• Геостратегические и геополитические
• Технологические (характеристики системы, конструкция и применение)

В таблице подробно описаны параметры, которые, возможно, придется учитывать при оценке новой технологии.

🔴ИНГСА. 2018. Понимание благополучия в контексте быстрых цифровых и связанных с ними преобразований.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf

🟢 Новые дескрипторы (получены в результате обширных консультаций, отзывов и обзора литературы)

🟡 Рамки классификации систем искусственного интеллекта ОЭСР: инструмент для эффективной политики в области искусственного интеллекта.
https://oecd.ai/en/classification

Размеры воздействия: Индивидуальный/самостоятельный

Критерии	Примеры того, как это может быть отражено в анализе
🟡Компетентность пользователей в области искусственного интеллекта	Насколько компетентны и осведомлены о свойствах системы вероятные пользователи, которые будут с ней взаимодействовать? Как им будет предоставлена ​​соответствующая пользовательская информация и предупреждения?
🟡 Затронутая заинтересованная сторона	Кто является основными заинтересованными сторонами, на которых будет воздействовать система (отдельные лица, сообщества, уязвимые группы, отраслевые работники, дети, политики, специалисты и т. д.)?
🟡 Опциональность	Предоставляется ли пользователям возможность отказаться от системы или им предоставляется возможность оспорить или исправить выходные данные?
🟡Риски для прав человека и демократических ценностей	Влияет ли система фундаментально на права человека, включая, помимо прочего, неприкосновенность частной жизни, свободу выражения мнений, справедливость, недискриминацию и т. д.?
🟡Потенциальное влияние на благополучие людей	Связаны ли области воздействия системы с благополучием отдельного пользователя (качество работы, образование, социальное взаимодействие, психическое здоровье, идентичность, окружающая среда и т. д.)?
🟡 Возможность вытеснения людей из рабочей силы	Есть ли у системы потенциал для автоматизации задач или функций, которые выполнялись людьми? Если да, то каковы последующие последствия?
🟡 Возможность манипулирования идентичностью, ценностями или знаниями	Разработана ли система или потенциально способна ли она манипулировать личностью пользователя или устанавливают ценности или распространяют дезинформацию?
🔴 Возможности для самовыражения и самореализации	Есть ли потенциал для искусственности и неуверенности в себе? Существует ли вероятность ложного или непроверяемые заявления об экспертизе?
🔴 Меры самооценки	Есть ли необходимость изображать идеализированное «я»? Может ли автоматизация заменить смысл личного удовлетворения? Есть ли необходимость конкурировать с системой в рабочее место? Сложнее ли защитить индивидуальную репутацию от дезинформации?
🔴 Конфиденциальность	Распределены ли обязанности по защите конфиденциальности и есть ли какие-либо предположения о том, как используются персональные данные?
🔴 Автономность	Может ли система ИИ повлиять на человеческую автономию, вызывая чрезмерную зависимость от конечные пользователи?
🔴Человеческое развитие	Оказывает ли влияние на приобретение ключевых навыков для человеческого развития, таких как исполнительные функции или навыки межличностного общения, или изменения во времени внимания, влияющие на обучение, развитие личности, проблемы психического здоровья и т. д.?
🔴 Забота о личном здоровье	Есть ли заявления о самодиагностике или персонализированных решениях в области здравоохранения? Если так, проверены ли они на соответствие нормативным стандартам?
🔴 Психическое здоровье	Существует ли риск повышенной тревожности, одиночества или других проблем с психическим здоровьем, или Может ли технология смягчить такие последствия?
🟢 Эволюция человека	Могут ли большие языковые модели и общий искусственный интеллект изменить ход эволюции человека?
🟢 Взаимодействие человека и машины	Может ли использование со временем привести к потере квалификации и зависимости отдельных лиц? Являются влияет ли это на человеческое взаимодействие?

Размеры воздействия: Общество/социальная жизнь

Критерии	Примеры того, как это может быть отражено в анализе
🔴 Общественные ценности	Изменяет ли система фундаментально природу общества, позволяет ли нормализовать идеи, ранее считавшиеся антисоциальными, или нарушает социальные ценности культуры, в которой она применяется?
🔴 Социальные взаимодействия	Есть ли влияние на значимые человеческие контакты, включая эмоциональные отношения?
🔴 Здоровье населения	Есть ли у системы потенциал способствовать или подрывать намерения населения в отношении здоровья?
🔴 Культурное самовыражение	Является ли увеличение культурного присвоения или дискриминации вероятным или более трудным для решения проблемы? Исключает ли использование системы принятия решений или маргинализирует культурно значимые межгрупповые связи общества?
🔴 Государственное образование	Есть ли влияние на роли учителей или учебных заведений? Подчеркивает или уменьшает ли система цифровой разрыв и неравенство среди студентов? Повышается или ослабляется внутренняя ценность знаний или критического понимания?
🟢 Искаженная реальность	Применимы ли по-прежнему методы, используемые для определения истинного? Нарушено ли восприятие реальности?

Размеры воздействия: Экономический контекст (торговля)

Критерии	Примеры того, как это может быть отражено в анализе
🟡 Промышленный сектор	В каком промышленном секторе развернута система (финансы, сельское хозяйство, здравоохранение, образование, оборона и т. д.)?
🟡 Бизнес-модель	В какой бизнес-функции используется система и в каком качестве? Где используется система (частная, государственная, некоммерческая)?
🟡 Влияние на критически важную деятельность	Повлияет ли нарушение функционирования или деятельности системы на основные услуги или критически важную инфраструктуру?
🟡Широта развертывания	Как развертывается система (узкое использование внутри подразделения или широкое распространение на национальном/международном уровне)?
🟡 Техническая зрелость	Насколько технически развита система?
🟢 Совместимость	Могут ли существовать разрозненные структуры на национальном или глобальном уровне, которые препятствуют свободной торговле и влияют на сотрудничество с партнерами?
🟢Технологический суверенитет	Является ли стремление к технологическому суверенитету движущей силой поведения, включая контроль над всей цепочкой поставок ИИ?
🔴 Перераспределение доходов и национальные фискальные рычаги	Могут ли быть поставлены под угрозу основные функции суверенного государства (например, резервные банки)? Будет ли способность государства удовлетворять ожидания граждан и последствия (социальные, экономические, политические и т.д.) увеличиваться или уменьшаться?
🟢 Цифровой разрыв (ИИ-разрыв)	Усугубляется ли существующее цифровое неравенство или создается новое?

Размеры воздействия: Гражданская жизнь

Критерии	Примеры того, как это может быть отражено в анализе
🔴 Управление и государственная служба	Могут ли механизмы управления и глобальная система управления подвергнуться положительному или отрицательному воздействию?
🔴 СМИ	Вероятно ли, что общественный дискурс станет поляризованным и укоренится на уровне населения? Будет ли это влиять на уровень доверия к «четвертой власти»? Будут ли затронуты традиционные стандарты журналистской этики и добросовестности?
🔴 Верховенство закона	Будет ли это влиять на способность выявлять отдельных лиц или организации, подлежащих привлечению к ответственности (например, какую ответственность возложить на алгоритм за неблагоприятные результаты)? Произошла ли потеря суверенитета (экологической, финансовой, социальной политики, этики и т. д.)?
🔴Политика и социальная сплоченность	Существует ли возможность более укоренившихся политических взглядов и меньше возможностей для достижения консенсуса? Существует ли возможность дальнейшей маргинализации групп? Состязательные стили политики становятся более или менее вероятными?
🟢 Социальная лицензия	Существуют ли проблемы конфиденциальности, проблемы доверия и моральные проблемы, которые необходимо учитывать для принятия заинтересованными сторонами использования?
🟢 Местные знания	Могут ли знания и данные коренных народов быть искажены или незаконно присвоены? Существуют ли адекватные меры для защиты от искажения фактов, дезинформации и эксплуатации?
🟢 Научная система	Нарушена ли академическая и исследовательская честность? Есть ли потеря доверия к науке? Существуют ли возможности неправильного использования, чрезмерного использования или злоупотреблений? Каковы последствия научной практики?

Размеры воздействия: геостратегический/геополитический контекст

Критерии	Примеры того, как это может быть отражено в анализе
🟢 Точное наблюдение	Обучены ли системы на индивидуальных поведенческих и биологических данных и могут ли они использоваться для эксплуатации отдельных лиц или групп?
🟢 Цифровой конкурс	Могут ли государственные или негосударственные субъекты (например, крупные технологические компании) использовать системы и данные для понимания и контроля над населением и экосистемами других стран или подорвать юрисдикционный контроль?
🟢 Геополитическая конкуренция	Может ли система вызвать конкуренцию между странами за использование индивидуальных и групповых данных в экономических, медицинских целях и интересах безопасности?
🟢 Сдвиг в мировых силах	Находится ли под угрозой статус национальных государств как основных мировых геополитических игроков? Обладают ли технологические компании властью, когда-то принадлежавшей национальным государствам, и стали ли они независимыми, суверенными субъектами (формирующийся технополярный мировой порядок)?
🟢 Дезинформация	Будет ли система способствовать производству и распространению дезинформации государственными и негосударственными субъектами, что повлияет на социальную сплоченность, доверие и демократию?
🟢 Приложения двойного назначения	Есть ли возможность как военного, так и гражданского применения?
🟢 Фрагментация глобального порядка	Может ли возникнуть разрозненность или кластеры регулирования и соблюдения требований, которые будут препятствовать сотрудничеству, приводить к несогласованности в применении и создавать возможности для конфликтов?

Размеры воздействия: Экологическая

Критерии	Примеры того, как это может быть отражено в анализе
🟢 Потребление энергии и ресурсов (углеродный след)	Увеличивают ли система и требования потребление энергии и ресурсов сверх повышения эффективности, полученного за счет применения?
🟢Источник энергии	Откуда берется энергия для системы (возобновляемые источники энергии или ископаемое топливо и т. д.)?

Размеры воздействия: данные и вклад

Критерии	Примеры того, как это может быть отражено в анализе
🟡 Направление и сбор	Собираются ли данные и вводимые данные людьми, автоматическими датчиками или и тем, и другим?
🟡 Происхождение данных	Являются ли данные и вклад экспертов предоставленными, наблюдаемыми, синтетическими или производными? Существуют ли водяные знаки для подтверждения происхождения?
🟡 Динамический характер данных	Являются ли данные динамическими, статическими, динамическими и обновляются время от времени или в режиме реального времени?
🟡 Права	Являются ли данные собственностью, общедоступными или личными (относящимися к идентифицируемым лицам)?
🟡 Идентификация и персональные данные	Если личные данные, являются ли данные анонимными или псевдонимизированными?
🟡 Структура данных	Являются ли данные структурированными, полуструктурированными, сложноструктурированными или неструктурированными?
🟡 Формат данных	Является ли формат данных и метаданных стандартизированным или нестандартизованным?
🟡 Масштаб данных	Каков масштаб набора данных?
🟡 Соответствие и качество данных	Соответствует ли набор данных поставленной цели? Адекватен ли размер выборки? Является ли он репрезентативным и достаточно полным? Насколько зашумлены данные? Это подвержено ошибкам?

Размеры воздействия: Модель

Критерии	Примеры того, как это может быть отражено в анализе
🟡 Доступность информации	Доступна ли какая-либо информация о модели системы?
🟡 Тип модели ИИ	Является ли модель символической (правила, созданные человеком), статистической (использует данные) или гибридной?
🟡 Права, связанные с моделью	Является ли модель открытым исходным кодом или проприетарной, управляется ли она самостоятельно или третьей стороной?
🟡 Одна из нескольких моделей	Состоит ли система из одной модели или из нескольких взаимосвязанных моделей?
🟡 Генеративный или дискриминационный	Является ли модель генеративной, дискриминационной или и той, и другой?
🟡 Построение модели	Обучается ли система на основе правил, написанных человеком, на основе данных, посредством контролируемого обучения или обучения с подкреплением?
🟡 Эволюция модели (дрейф ИИ)	Развивается ли модель и/или приобретает ли она способности в результате взаимодействия с полевыми данными?
🟡 Федеративное или централизованное обучение	Обучается ли модель централизованно или на нескольких локальных серверах или «граничных» устройствах?
🟡 Разработка/поддержка	Является ли модель универсальной, настраиваемой или адаптированной к данным субъекта ИИ?
🟡 Детерминированный или вероятностный	Используется ли модель детерминистическим или вероятностным образом?
🟡 Прозрачность модели	Доступна ли пользователям информация, позволяющая им понять выходные данные и ограничения модели или ограничения использования?
🟢 Вычислительное ограничение	Существуют ли вычислительные ограничения системы? Можно ли предсказать скачки возможностей или законы масштабирования?

Размеры воздействия: задача и результат

Критерии	Примеры того, как это может быть отражено в анализе
🟡 Задачи, выполняемые системой	Какие задачи выполняет система (распознавание, обнаружение событий, прогнозирование и т. д.)?
🟡 Объединение задач и действий	Сочетает ли система несколько задач и действий (системы генерации контента, автономные системы, системы управления и т. д.)?
🟡 Уровень автономности системы	Насколько автономны действия системы и какую роль играют люди?
🟡 Степень участия человека	Есть ли участие человека для наблюдения за общей деятельностью системы ИИ и возможности решать, когда и как использовать систему ИИ в любой ситуации?
🟡 Основное приложение	Относится ли система к основной области применения, такой как технологии человеческого языка, компьютерное зрение, автоматизация и/или оптимизация или робототехника?
🟡 Оценка	Доступны ли стандарты или методы для оценки производительности системы?

Эту структуру можно использовать разными способами, в том числе:

• Устранить разрыв между принципами высокого уровня и оценкой для целей регулирования или управления. Эта структура может способствовать этому путем создания проверенной общей таксономии ряда вопросов, которые заслуживают рассмотрения соответствующими заинтересованными сторонами в качестве основы для информирования и формирования дальнейшего мышления. Например, на национальном уровне эта структура может использоваться правительством в качестве инструмента при разработке национальной стратегии и политики в области ИИ для создания общей основы рисков и возможностей среди групп заинтересованных сторон.
• Для информирования об оценках воздействия. Закон ЕС об искусственном интеллекте требует от организаций, которые предоставляют инструменты искусственного интеллекта или внедряют искусственный интеллект в свои процессы, проводить оценку воздействия, чтобы определить риск своих инициатив и применять соответствующий подход к управлению рисками. Представленная здесь структура может быть использована в качестве основы для этого.
• Для информирования о сканировании горизонтов на предмет рисков и будущих сценариев. Классификация рисков в промежуточном отчете Консультативного органа ООН по искусственному интеллекту6 в целом соответствует структуре, представленной здесь. Существует возможность использования этой структуры для достижения консенсуса и проверки серьезности возникающих рисков, а также их предотвращения.
• Укрепить этические принципы, необходимые для руководства и регулирования использования ИИ. Эта структура может сделать это, предоставив гибкую основу для разработки надежных систем и гарантируя законное, этичное, надежное и ответственное использование технологии. Эти принципы можно было бы проверить на фоне всего спектра воздействий, представленных в данной схеме.
• Содействовать подведению итогов существующих и разрабатываемых мер (нормативных, законодательных, политических, стандартов, управления и т. д.) и выявлению пробелов, которые требуют дальнейшего рассмотрения. Их можно сопоставить с рамочными категориями на национальном или многонациональном уровне, чтобы выявить пробелы и определить подходящие меры по смягчению рисков.
• Поддержать использование ИИ правительством. Поскольку многие правительства определяют свои соответствующие стратегии использования ИИ в учреждениях и системах, эту структуру можно использовать для определения соответствующих пороговых значений риска и определения ключевых заинтересованных сторон и обязанностей.
• Поддержать общественный дискурс и установить социальную лицензию на использование ИИ и лежащие в его основе данные, которые будут использоваться в государственных службах или в обществе в более широком смысле.

Путь вперед
Таким образом, аналитическая основа представлена ​​в качестве основы набора инструментов, который может использоваться заинтересованными сторонами для всестороннего анализа любых значительных изменений в платформах или их использовании на последовательной и систематической основе. Измерения, представленные в этой схеме, имеют отношение к оценке технологий и государственной политике, от человеческого развития к социологии, а также к исследованиям будущего и технологий. Хотя эта аналитическая основа разработана для ИИ, она имеет гораздо более широкое применение к любой другой новой технологии.

6 Консультативный совет ООН по искусственному интеллекту. 2023. Промежуточный отчет: Управление искусственным интеллектом для человечества. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd

Со многими людьми были проведены консультации и предоставлены отзывы при разработке как первоначального документа для обсуждения, так и отзывов после его выпуска. Оба документа были написаны сэром Питером Глакманом, президентом ISC, и Хемой Шридхар, бывшим главным научным советником Министерства обороны Новой Зеландии, а ныне старшим научным сотрудником Оклендского университета, Новая Зеландия.

В частности, ISC лорд Мартин Рис, бывший президент Королевского общества и соучредитель Центра изучения экзистенциальных рисков Кембриджского университета; профессор Шиваджи Сондхи, профессор физики Оксфордского университета; профессор К. Виджай Рагхаван, бывший главный научный советник правительства Индии; Амандип Сингх Гилл, посланник Генерального секретаря ООН по технологиям; Шон О Хейгеартай, исполнительный директор Центра изучения экзистенциальных рисков Кембриджского университета; Сэр Дэвид Шпигельхальтер, профессор Винтонского университета по общественному пониманию рисков
Кембриджа; Аманда-Джун Браунер, старший советник по вопросам политики, и Ян Виггинс, директор по международным делам Королевского общества, Великобритания; д-р Жером Дюберри, управляющий директор, и д-р Мари-Лор Саллес, директор Женевского института последипломного образования; Чор Фарн Ли, Центр стратегического будущего, канцелярия премьер-министра, Сингапур; Баренд Монс и д-р Саймон Ходсон, Комитет по данным (CoDATA); профессор Юко Хараяма, бывший исполнительный директор RIKEN; Профессор
Реми Кирион, президент INGSA; д-р Клэр Крейг, Оксфордский университет, бывший руководитель отдела прогнозирования Государственного управления науки; профессор Йошуа Бенджио, Научно-консультативный совет Генерального секретаря ООН и Университет Монреаля; и многие другие, кто предоставил отзыв ISC по первоначальному дискуссионному документу.