Подкаст с Цюфанем Ченом: Научная фантастика и будущее науки: ценности и смыслы искусственного интеллекта

Ученые и исследователи все больше ценят научную фантастику за ее вклад в предсказание сценариев будущего. В рамках своей миссии по изучению направлений, в которых нас ведут изменения в науке и научных системах, Центр научного будущего встретился с шестью ведущими писателями-фантастами, чтобы узнать их точку зрения на то, как наука может решить многие социальные проблемы, с которыми мы столкнемся в ближайшие десятилетия. Подкаст создан в партнерстве с природа.

В пятом выпуске к нам присоединяется Цюфан Чен, чтобы обсудить свободу действий и социальную ответственность в науке как человеческом стремлении. По мнению Чена, это особенно применимо к искусственному интеллекту. В ходе подкаста он рассказывает нам о влиянии ИИ на будущее научных исследований и о том, как можно более регулировать разработки ИИ и, таким образом, сделать их более этичными.

Подпишитесь и слушайте на своей любимой платформе

Цюфан Чен

Цюфань Чен — китайский писатель-фантаст, лауреат многих премий, автор Пустая волна и соавтор AI 2041: десять видений нашего будущего. Он также является научным сотрудником Йельского университета и научным сотрудником Института Берггрюна, США. Наша основная дискуссия сосредоточена вокруг искусственного интеллекта и того, как мы можем использовать возможности этой технологии, избегая при этом опасностей, которые она представляет.

Запись

Пол Шривастава (00:04):

Привет, я Пол Шривастава из Университета штата Пенсильвания. И в этой серии подкастов я беседую с некоторыми из ведущих современных писателей-фантастов. Я хочу услышать их мнение о будущем науки и о том, как она должна трансформироваться, чтобы ответить на вызовы, с которыми мы столкнемся в предстоящие годы.

Цюфан Чен (00:24):

В будущем искусственный интеллект, возможно, его можно будет использовать, чтобы помочь нам отражать себя как зеркало, чтобы мы стали лучше.

Пол Шривастава (00:33):

Сегодня я разговариваю с Цюфанем Стэнли Ченом, китайским писателем, удостоенным наград. Я прочитал его роман, Пустая волна много лет назад, и был впечатлен его изображением проблем, связанных с электронными отходами. Его последняя книга в соавторстве AI 2041: 10 видений нашего будущего, ярко сочетает образные рассказы с научными прогнозами. Мы много говорили об искусственном интеллекте и о том, как мы можем использовать возможности этой невероятной технологии, избегая при этом некоторых опасностей, которые она представляет.

Большое спасибо, что присоединились к нам, Стэн. Добро пожаловать. Удивительно, что диапазон научных тем, которыми вы владеете, действительно примечателен. Как у вас появился интерес к этим научным темам?

Цюфан Чен (01:28):

Итак, как фанат научной фантастики, я должен признать, что начал со всего этого. Star Wars, Star Trek, Jurassic Park, классические научно-фантастические фильмы и книги, анимация того времени. Каждый раз это давало мне много нового вдохновения и идей. Итак, меня всегда полностью завораживали все эти знаки, воображение будущего, космического пространства и даже видов, существовавших миллионы лет назад. Итак, как мы вернули их к жизни.

Пол Шривастава (02:02):

Итак, наука существует уже очень давно. Каков ваш общий взгляд на науку как на человеческое занятие?

Цюфан Чен (02:13):

Для меня это, безусловно, огромное достижение. И, конечно же, это улучшает нашу жизнь как человека. И, когда мы оглядываемся назад на историю, я должен признать, что существует множество проблем, потому что мне кажется, что агентство не полностью находится в руках людей. Иногда мне кажется, что, может быть, наука и технология, как и какой-то вид, как какие-то биологические существа, имеют свою собственную цель. У него есть свой собственный жизненный цикл рождения. Оно хочет существовать и развиваться вместе с людьми. Итак, мы как хозяин, они как вирус. Мы можем видеть это и так, и наоборот. Итак, я всегда чувствую, что между наукой и людьми действительно существует глубокая взаимосвязь. Итак, иногда мне кажется, что все это развитие науки и техники сильно изменило нас, но мы никогда не знаем, в каком направлении нас ждет впереди.

Пол Шривастава (03:24):

Что ж, давайте сделаем это более конкретным и сосредоточимся на том, что сейчас на первом месте, а именно на искусственном интеллекте. Как мы можем гарантировать, что при развитии ИИ мы будем учитывать социальную справедливость, а также этические и моральные соображения?

Цюфан Чен (03:40):

Проблема в том, что мы не вложили все средства в создание такого рода регулирования и рамок этического предотвращения чего-то негативного. Я думаю, нам нужно больше разнообразия в области ИИ, особенно в модели большого языка, потому что мы говорим именно о согласовании. Итак, даже среди людей в разных странах, культурах, языках у нас не было этого общего мировоззрения как единого стандарта. Итак, как мы можем научить машину, ИИ, соответствовать системе человеческих ценностей или стандартам как единому целому? Итак, я думаю, что это что-то очень предварительное. Но я думаю, что ключевой вклад должен исходить не только от технологических компаний, инженеров и всех этих людей, работающих в отрасли, но также и от междисциплинарного мира, такого как антропология и психология, например, социология. Нам нужен более разнообразный взгляд со стороны гуманитарных наук, потому что искусственный интеллект должен создаваться для людей, чтобы служить людям. Но сейчас я чувствую, что человеческий фактор совершенно отсутствует.

Пол Шривастава (05:11):

Итак, по вашему мнению, как эти технологические достижения изменят то, как будет развиваться наука в будущем?

Цюфан Чен (05:19):

Мне кажется, что это совершенно новый сдвиг парадигмы, который ученые могут использовать ИИ для поиска новых закономерностей, предсказания структуры белка и поиска корреляции в огромном объеме данных. Я думаю, это будет что-то революционное. Но в этом процессе есть и много проблем. Например, прямо сейчас мы можем предсказать миллионы структур белков, но проблема в том, какой процент всех этих предсказаний структуры белков верен и эффективен для реального заболевания и реального человеческого организма? И еще одно: вся эта революционная область сосредоточена на накоплении огромного количества наборов данных. Из какой группы собираются эти данные? Что за население? И делятся ли они этими данными с уведомлением, для чего все было использовано? И делимся ли мы данными с разными группами ученых или исследователей? Поэтому я думаю, что это всегда что-то о том, как мы можем создать такую систему уравновешивания, чтобы минимизировать риски и проблемы, в то же время действительно удовлетворяя потребности рынка и принося максимальную пользу людям.

Пол Шривастава (06:56):

Да, я думаю, что построение системы сдержек и противовесов — важная часть развития ИИ. Однако влияние искусственного интеллекта на окружающую среду редко упоминается в научных исследованиях.

Цюфан Чен (07:13):

Это что-то очень парадоксальное, потому что ИИ требует так много энергии. И для этого нужны вычисления в реальном времени. Ему требуется так много извлечения из окружающей среды. Но тем временем мы можем использовать его для обнаружения лесного пожара со спутника. Мы можем использовать его для защиты биоразнообразия. Мы можем использовать его для поиска нового решения, например, для хранения энергии в виде батареи, интеллектуальных сетей и, возможно, даже технологии ядерного синтеза в будущем. Поэтому, если вы используете его правильно, он определенно сможет защитить нас и бороться с изменением климата.

Пол Шривастава (08:03):

Думаете ли вы, что в какой-то момент в будущем ИИ поймет больше, чем могут понять люди?

Цюфан Чен (08:13):

Итак, я думал о какой-то модели, например, о большой модели за пределами человека. Например, данные о животных, растениях, грибах, даже о микросхемах и обо всей окружающей среде. Итак, мы говорим о всей модели Земли. Нам необходимо развернуть такого рода сенсорные слои по всему миру. Так что, возможно, мы сможем использовать умную пыль, которая упоминается в романе Лема «Непобедимый». Итак, вы говорите обо всем этом рое мелкой пыли, по сути, это коллективный разум. И человек может многому научиться из такой большой модели, потому что она помогает нам воспринимать что-то за пределами нашей сенсорной системы и за пределами человека. Тогда мы сможем быть менее ориентированными на человека и с большим состраданием относиться к другим видам. И, возможно, это было бы решением борьбы с изменением климата, потому что мы можем чувствовать, что чувствуют другие виды, и вся эта боль, все эти страдания, все эти жертвоприношения могут быть чем-то осязаемым и реальным.

Пол Шривастава (09:36):

Замечательный. Представление об искусственном интеллекте в модели человека на самом деле является низшим способом мышления об искусственном… Более совершенный путь, то, что вы называете моделью всего мира, — это путь развития.

Цюфан Чен (09:54):

Ага. Итак, это напоминает мне буддизм, потому что в буддизме, как и все разумные виды, они максимально равны, и не существует такого понятия, как люди, которые должны быть главенствующими над другими. Итак, я всегда думаю о том, что нам нужно найти способ внедрить всю эту философию и ценности буддизма и даосизма в машину.

Пол Шривастава (10:27):

Итак, мне интересно, понимаете ли вы технические элементы ИИ. Можно ли обучить ИИ буддизму, даосизму? Потому что все книги и ценности уже систематизированы. Можно ли найти ИИ, который тренируется на них и создаёт синтетическую мировую религию, если хотите?

Цюфан Чен (10:50):

Он определенно мог бы, и он мог бы выполнять свою работу лучше, чем любой из священников, любой монах, любой гуру в мире, потому что он очень хорошо осведомлен. Но для практикующего даосизм есть что-то помимо синтетического понимания всего этого, назовите это религиозным или духовным опытом, — это нечто в теле. Итак, вам придется выполнять всю эту физическую домашнюю работу. Итак, я думаю, что это то, чего все еще не хватает ИИ. У него не было тела, у него не было сложной сенсорной системы, у него не было, например, самосознания. И я думаю, что все эти части и делают человека человеком. В будущем искусственный интеллект, возможно, его можно будет использовать, чтобы помочь нам отражать себя как зеркало, чтобы мы стали лучше.

Пол Шривастава (11:49):

В вашем воображении, может ли у ИИ быть душа?

Цюфан Чен (11:54):

Появление сознания в настоящее время является, по сути, загадкой для науки. Поэтому мне кажется, что определенно существует некоторая связь между способностью к возникновению больших языковых моделей и всеми этими явлениями возникновения в сложных системах классической или квантовой физики. Поэтому я думаю математически, возможно, когда-нибудь мы сможем доказать существование сознания. Но это не ноль или один статус, а непрерывный спектр статусов. Это означает, что, может быть, даже камень, даже дерево, даже река или гора обладают неким определенным уровнем сознания, но мы просто не распознали его, потому что мы настолько человекоцентричны. Но все дело в вычислениях. Все дело в сжатии пространства-времени. Все дело в сохранении информации. Так что все дело в уменьшении энтропии. Так что это не вопрос эпистемологии, но я думаю, что это онтологический вопрос. Итак, речь идет о существовании.

Пол Шривастава (13:14):

Благодарим вас за прослушивание этого подкаста Центра будущего науки Международного научного совета, созданного в сотрудничестве с Центром человеческого воображения Артура Кларка в Калифорнийском университете в Сан-Диего. Посетите сайт Futures.council.science, чтобы узнать больше о работе Центра будущего науки. Он фокусируется на новых тенденциях в науке и исследовательских системах и предоставляет варианты и инструменты для принятия более обоснованных решений.

Пол Шривастава, профессор менеджмента и организаций Университета штата Пенсильвания, вел серию подкастов. Специализируется на реализации Целей устойчивого развития. Подкаст также создан в сотрудничестве с Центром человеческого воображения Артура Кларка при Калифорнийском университете в Сан-Диего.

Проект курировал Матье Дени и пронесено Донг ЛюС Центр научного будущего, аналитический центр ISC.

фотография из КОММЕРС on Unsplash.

Отказ от ответственности
Информация, мнения и рекомендации, представленные в этой статье, принадлежат отдельным авторам и не обязательно отражают ценности и убеждения Международного научного совета.