Подкаст із Цюфан Ченом: Наукова фантастика та майбутнє науки: цінності та сенс у штучному інтелекті

Вчені та дослідники все більше цінують наукову фантастику за її внесок у передбачення майбутніх сценаріїв. У рамках своєї місії досліджувати напрямки, до яких ведуть нас зміни в науці та наукових системах, The Центр майбутнього науки поспілкувався з шістьма провідними авторами наукової фантастики, щоб зібрати їхні погляди на те, як наука може протистояти численним суспільним викликам, з якими ми зіткнемося в наступні десятиліття. Подкаст створений у партнерстві з природа.

У нашому п’ятому епізоді Цюфань Чен приєднується до нас, щоб обговорити агентство та соціальну відповідальність у науці як людській діяльності. Для Чена це особливо стосується штучного інтелекту. Під час подкасту він розповідає нам про вплив штучного інтелекту на майбутнє наукових досліджень і про те, як розробки штучного інтелекту можна більш регулювати та, таким чином, зробити більш етичними.

Підпишіться та слухайте через свою улюблену платформу

Цюфан Чен

Цюфань Чен — відомий китайський письменник-фантаст, автор книги Приплив відходів і співавтор AI 2041: Десять бачення нашого майбутнього. Він також є науковим співробітником Єльського університету та співробітником Інституту Берггрюна, США. Наша основна дискусія зосереджена навколо штучного інтелекту, як ми можемо використовувати потужність цієї технології, уникаючи небезпек, які вона створює.

Розшифровка

Пол Шрівастава (00:04):

Привіт, я Пол Шрівастава з Університету штату Пенсільванія. І в цій серії подкастів я розмовляю з деякими з провідних сучасних письменників-фантастів. Я хочу почути їхні погляди на майбутнє науки та те, як вона має трансформуватися, щоб відповідати викликам, з якими ми стикаємося в наступні роки.

Цюфан Чен (00:24):

Штучний інтелект у майбутньому, можливо, його можна буде використовувати, щоб допомогти нам відобразити себе як дзеркало, щоб зробити нас кращими людьми.

Пол Шрівастава (00:33):

Сьогодні я розмовляю з Цюфанем Стенлі Ченом, відомим китайським письменником. Я читав його роман, Приплив відходів багато років тому, і був вражений його зображенням скрутного становища електронних відходів. Його остання книга, написана у співавторстві AI 2041: 10 бачень нашого майбутнього, яскраво поєднує образні історії з науковими прогнозами. Ми багато говорили про штучний інтелект і про те, як ми можемо використовувати потужність цієї неймовірної технології, уникаючи при цьому деяких небезпек, які вона створює.

Велике спасибі, що приєднався до нас, Стен. Ласкаво просимо. Дивно, що діапазон наукових тем, якими ви володієте, справді помітний. Як ви зацікавилися цими науковими темами?

Цюфан Чен (01:28):

Тож, як фанат наукової фантастики, мушу визнати, що починав із усього цього Зіркові війни, Star Trek, Парк Юрського періоду, класичні науково-фантастичні фільми та книги, анімація того часу. Щоразу це давало мені багато нового натхнення та ідей. Отже, я завжди був повністю зачарований усіма цими знаками, уявою майбутнього та космічного простору та навіть видів мільйонів років тому. Отже, як ми повернули їх до життя.

Пол Шрівастава (02:02):

Отже, наука існує дуже давно. Яке ваше загальне бачення науки як людської діяльності?

Цюфан Чен (02:13):

Для мене це, безперечно, величезне досягнення. І, звичайно, це робить нас кращими умовами життя як людей. І, коли ми повернемося до історії, я повинен визнати, що є багато викликів, тому що мені здається, що агентство не зовсім в руках людей. Іноді я відчуваю, що, можливо, наука і технологія, як якийсь вид, як якийсь біологічний істота, мають свою власну мету. Він має свій життєвий цикл народження. Він хоче бути і розвиватися разом з людьми. Отже, ми як господарі, вони як вірус. Ми можемо бачити це так чи навпаки. Отже, я завжди відчуваю, що між наукою та людьми дійсно існує глибока взаємозв’язок. Тож інколи я відчуваю, що весь цей розвиток науки й техніки дуже змінив нас, але ми ніколи не знаємо, який напрямок нас чекає.

Пол Шрівастава (03:24):

Що ж, давайте зробимо це більш конкретним і зосередимося на тому, що зараз є головним, а саме на штучному інтелекті. Як ми можемо переконатися, що при розробці штучного інтелекту ми враховуємо соціальну справедливість, етичні та моральні міркування?

Цюфан Чен (03:40):

Проблема полягає в тому, що ми не повністю інвестували, щоб розробити таке регулювання та етичні рамки, щоб запобігти виникненню чогось негативного. Я думаю, що нам потрібно більше різноманітності щодо штучного інтелекту, особливо великої мовної моделі, тому що ми говоримо про конкретне узгодження. Отже, навіть серед людей у різних країнах, культурах, мовах у нас не було цього спільного узгодження як єдиного стандарту. Отже, як ми можемо навчити машину, штучний інтелект, бути узгодженою з людською системою цінностей або стандартами як єдиним цілим? Отже, я думаю, що це щось дуже попереднє. Але я вважаю, що ключовий внесок має бути не лише від технологічних компаній, від інженерів, від усіх цих людей, які займаються справами в галузі, але також від міждисциплінарного світу, такого як антропологія та психологія, соціологія, наприклад. Нам потрібна більш різноманітна перспектива з боку гуманітарних наук, тому що штучний інтелект має бути створений для людей, щоб служити людям. Але я відчуваю, що людський фактор прямо зараз відсутній у циклі.

Пол Шрівастава (05:11):

Отже, на вашу думку, як ці технологічні досягнення змінять спосіб розвитку науки в майбутньому?

Цюфан Чен (05:19):

Мені здається, що це абсолютно нова зміна парадигми, яку вчені можуть використовувати ШІ для пошуку нових закономірностей, прогнозування структури білка та знаходження кореляції у величезній кількості даних. Я думаю, що це буде щось революційне. Але також у цьому процесі є багато проблем. Наприклад, прямо зараз ми можемо передбачити мільйони білкових структур, але проблема полягає в тому, скільки відсотків усіх цих передбачень білкової структури дійсні та ефективні для реальної хвороби та реального людського тіла? І ще одна річ, уся ця революційна сфера дуже зосереджена на накопиченні величезної кількості даних. Від якої групи збираються ці дані? Що за населення? І чи повідомляють вони ці дані з попередженням, для чого було використано все? І чи ділимося ми даними між різними групами вчених чи дослідників? Тож я думаю, що це завжди щось про те, як ми можемо побудувати таку систему противаг, щоб мінімізувати ризики та виклики, водночас справді задовольнити вимоги ринку та отримати найкращі переваги для людей.

Пол Шрівастава (06:56):

Так, я вважаю, що побудова системи стримувань і противаг є важливою частиною розвитку ШІ. Але вплив самого штучного інтелекту на навколишнє середовище рідко згадується в публічних наукових наративах.

Цюфан Чен (07:13):

Це щось дуже парадоксальне, тому що ШІ вимагає так багато енергії. І для цього потрібні обчислення в реальному часі. Це потребує великого вилучення з навколишнього середовища. Але тим часом ми можемо використовувати його для виявлення пожежі з супутника. Ми можемо використовувати його для захисту біорізноманіття. Ми можемо використати це, щоб знайти нове рішення, як накопичувач енергії акумулятора, розумні мережі і, можливо, навіть технологія ядерного синтезу в майбутньому. Отже, якщо ви використовуєте його належним чином, він точно зможе захистити нас і боротися зі зміною клімату.

Пол Шрівастава (08:03):

Як ви думаєте, колись у майбутньому штучний інтелект буде розуміти більше, ніж можуть зрозуміти люди?

Цюфан Чен (08:13):

Отже, те, про що я думав, — це якась модель, наприклад велика модель поза межами людини. Наприклад, дані від тварин, рослин, грибів, навіть від мікроорганізмів і всього середовища. Отже, ми говоримо про всю модель Землі. Нам потрібно розгорнути такий тип сенсорних рівнів по всьому світу. Отже, можливо, ми можемо використовувати розумний пил, про який згадувалося в романі Лема «Непереможний». Отже, ви говорите про весь цей рій дрібного пилу, в основному це колективний розум. І людина може багато чому навчитися з такої великої моделі, тому що вона допомагає нам сприймати щось за межами нашої сенсорної системи та людини. Тоді ми зможемо бути менш орієнтованими на людину, і ми зможемо більше співчувати іншим видам. І, можливо, це було б рішенням для боротьби зі зміною клімату, тому що ми можемо відчути, як почуваються інші види, і весь цей біль, усі ці страждання, усі ці жертви можуть бути чимось відчутним і реальним.

Пол Шрівастава (09:36):

чудово Уявити собі штучний інтелект за моделлю людей насправді є нижчим способом мислення про штучний… Кращий шлях, те, що ви називаєте моделлю всього світу, — це шлях розвитку.

Цюфан Чен (09:54):

так Отже, це нагадує мені буддизм, тому що в буддизмі, як і всі розумні види, рівні, наскільки це можливо, і немає такого поняття, як люди повинні бути першими за інших. Тому я завжди думаю про те, що нам потрібно знайти спосіб вбудувати всю цю філософію та цінності буддизму та даосизму в машину.

Пол Шрівастава (10:27):

Отже, мені цікаво, ви розумієте технічні елементи ШІ. Чи можна навчити штучному інтелекту в буддизмі чи даосизмі? Тому що всі книги і цінності вже кодифіковані. Чи можливо знайти штучний інтелект, який тренується на них і створює синтетичну світову релігію, якщо хочете?

Цюфан Чен (10:50):

Це точно могло б, і воно могло б виконувати роботу краще, ніж будь-який зі священиків, будь-який із ченців, будь-який із гуру у світі, тому що він настільки обізнаний. Але, як практикуючий даосизм, є щось поза межами синтетичного розуміння всього цього, назвіть це релігійним чи духовним досвідом, є щось у тілі. Отже, ви повинні виконувати всі ці фізичні домашні завдання. Отже, я думаю, що цього все ще бракує ШІ. У нього не було тіла, не було складної сенсорної системи, у нього не було самосвідомості, наприклад. І я думаю, що все це робить людину людиною. Штучний інтелект у майбутньому, можливо, його можна буде використовувати, щоб допомогти нам відобразити себе як дзеркало, щоб зробити нас кращими людьми.

Пол Шрівастава (11:49):

У вашій уяві, чи може ШІ мати душу?

Цюфан Чен (11:54):

Виникнення свідомості в даний час є загадкою науки. Тож мені здається, що існує певний зв’язок між можливостями створення великої мовної моделі та всіма цими явищами виникнення в системах класичної чи квантової фізики. Тож я думаю, математично, можливо, колись ми зможемо довести існування свідомості. Але це не нульовий чи одиничний статус, а схожий на безперервний спектр статусів. Тож це означає, що, можливо, навіть скеля, навіть дерево, навіть річка чи гора мають певний рівень свідомості, але ми просто не визнали цього, тому що ми настільки орієнтовані на людину. Але все залежить від обчислень. Вся справа в стисненні часу і простору. Вся справа в збереженні інформації. Отже, вся справа в зменшенні ентропії. Тож це не епістемологічне питання, але я думаю, що це онтологічне питання. Отже, мова йде про існування.

Пол Шрівастава (13:14):

Дякуємо, що прослухали цей подкаст від Центру майбутнього науки Міжнародної наукової ради, створеного у партнерстві з Центром людської уяви Артура К. Кларка при Каліфорнійському університеті в Сан-Дієго. Відвідайте сайт futures.council.science, щоб дізнатися більше про роботу Центру майбутнього науки. Він зосереджений на нових тенденціях у наукових і дослідницьких системах і пропонує варіанти та інструменти для прийняття більш обґрунтованих рішень.

Пол Шрівастава, професор менеджменту та організацій Університету штату Пенсільванія, вів серію подкастів. Спеціалізується на реалізації Цілей сталого розвитку. Подкаст також створено у співпраці з Центром людської уяви Артура К. Кларка при Каліфорнійському університеті в Сан-Дієго.

Проект курував Матьє Дені і несли Дун ЛюЗ Центр майбутнього науки, аналітичний центр ISC.

фотографія з КОММЕРС on Unsplash.

відмова
Інформація, думки та рекомендації, представлені в цій статті, належать окремим авторам і не обов’язково відображають цінності та переконання Міжнародної наукової ради.