Подкаст с Кори Доктороу: Научная фантастика и будущее науки: использование цифровых достижений для будущего

Ученые и исследователи все больше ценят научную фантастику за ее вклад в предсказание сценариев будущего. В рамках своей миссии по изучению направлений, в которых нас ведут изменения в науке и научных системах, Центр научного будущего встретился с шестью ведущими писателями-фантастами, чтобы узнать их точку зрения на то, как наука может решить многие социальные проблемы, с которыми мы столкнемся в ближайшие десятилетия. Подкаст создан в партнерстве с природа.

В нашем шестом и последнем выпуске Кори Доктороу присоединяется к нам, чтобы обсудить проблему доверия к науке и то, что мы можем сделать для его укрепления. Он освещает вопросы искусственного интеллекта, а также алгоритмы и модели обучения. Что касается Доктороу, он хочет увидеть, как координирующую силу цифровых технологий можно использовать для достижения более устойчивого будущего.

Подпишитесь и слушайте на своей любимой платформе

Кори Доктороу

Он автор многих книг, последней из которых является Потерянное дело, научно-фантастический роман в стиле соларпанк, полный надежды в условиях чрезвычайной климатической ситуации и Интернет-афера: как завладеть средствами вычислений и Красная команда Блюз. В 2020 году он был введен в Зал славы канадской научной фантастики и фэнтези. Он родился в Торонто, сейчас живет в Лос-Анджелесе.

Запись

Пол Шривастава (00:03):

Привет, я Пол Шривастава из Университета штата Пенсильвания. В этой серии подкастов я общаюсь с ведущими мировыми писателями-фантастами. Я хочу услышать от них, как наука может помочь нам решить стоящие перед нами многогранные проблемы. В конце концов, они зарабатывают на жизнь, думая о будущем и о том, каким оно может или должно быть.

В этом выпуске я разговариваю с Кори Доктороу, писателем-фантастом, журналистом и технологическим активистом. За последние два десятилетия он опубликовал множество работ о технологических монополиях и цифровом наблюдении. Наш разговор затронул вопросы управления цифровыми правами, социальной справедливости и устойчивости в цифровом мире. Я надеюсь, вам понравится это.

Добро пожаловать, Кори, и спасибо за участие в этом подкасте. Можете ли вы для начала рассказать нам немного больше о ваших отношениях с наукой в целом и с писательством в области научной фантастики?

Кори Доктороу (01:05):

Что ж, я вырос при чрезвычайно удачных обстоятельствах для человека, интересующегося научной фантастикой. Я вырос именно в Торонто в 1980-х годах. И там была женщина, которая произвела настоящий вихрь в этой области, женщина по имени Джудит Меррил, великая писательница, редактор и критик. Она была старейшиной британской новой волны научной фантастики. Итак, Джуди позволяла любому записывать свои истории и обсуждать их вместе с ней, она их критиковала. Так что это было как… Я не знаю. Это все равно что получить помощь с домашним заданием по физике от Эйнштейна. А потом она начала эти писательские семинары, на которых многообещающие писатели, которые приходили к ней, собирала их на еженедельные встречи. Итак, я был в одном из них в течение многих лет и был максимально приближен к формальному ученичеству в области научной фантастики.

В плане науки, знаете ли, я дилетант. Ближе всего к тому, чтобы стать ученым, я имею почетную степень в области компьютерных наук Открытого университета, где я являюсь приглашенным профессором компьютерных наук. И, в частности, у меня сложились прекрасные политические отношения с информатикой, потому что вот уже более 20 лет я работаю в области, которую мы могли бы широко назвать цифровыми правами человека, связанной с доступом к информации, цензурой, конфиденциальностью и равенством. В сети.

Пол Шривастава (02:17):

Итак, давайте углубимся в некоторые из этих вопросов. Вы затронули ряд этих тем, касающихся технологических достижений и того, в чьих интересах и в пользу они работают. Вы говорили о технологии наблюдения в Младший брат, законы об авторском праве в Пиратское кино, в криптовалюту в Красная команда Блюз. Очень часто повествования изображают негативные последствия неконтролируемого технологического роста или технологического роста на службе капитализма, если хотите. Итак, как вы воспринимаете роль науки в этом все более цифровом мире, в который мы вступаем?

Кори Доктороу (02:57):

Я думаю, что не может быть науки без справедливости. В том смысле, что то, что отличает науку от форм создания знаний, предшествующих просвещению, — это доступ, который является предварительным условием для состязательной экспертной оценки. И поэтому, оставляя в стороне моральные обязательства (которые, я думаю, мы можем сказать, что у всех нас есть моральные обязательства друг перед другом), я думаю, что есть лишь инструментальное основание сказать, что если другим людям не разрешено проверять ваши данные и ваши методы, и пытаться повторить вашу работу и свободно вас критиковать, тогда вы не занимаетесь наукой. Алхимики сделали вещь, очень похожую на науку, не так ли? Они наблюдали за миром, формулировали гипотезы, планировали эксперимент, проводили эксперимент, а затем все умерли от употребления ртути. Потому что, оказывается, можно обманывать себя, что эксперимент удался, вплоть до того, что отравление ртутью убивает тебя.

Кори Доктороу (04:05):

И разница между алхимией и наукой не в том, что пришедшие после нее учёные были умнее или менее склонны к самообману. Дело в том, что они подверглись строгому состязательному рецензированию, предварительное условие которого требует публикации и доступа. И я думаю, что когда у вас есть концентрация власти в коммерческом секторе, то есть монополия, регулирующим органам очень трудно оставаться независимыми. Эти фирмы становятся слишком большими, чтобы обанкротиться, и слишком большими, чтобы попасть в тюрьму. Тогда вы фактически создаете условия для людей, отрицающих науку, что имеет катастрофические последствия не только для них самих, но и для всех нас.

Пол Шривастава (04:39):

Ну я с вами согласен, что есть необходимость. Я думаю, что захват, о котором вы говорите силами корпораций и правительств, которые являются двумя основными источниками финансирования науки, завершен. И теперь мы смотрим на искусственный интеллект как на всеобъемлющую научную деятельность, которая изменит все. Какие политические рекомендации вы могли бы предложить для всей этой сферы?

Кори Доктороу (05:09):

Что ж, я хотел бы начать с того, что, будучи первым, кто упомянул об ИИ, вы должны выпить всем остальным, присутствовавшим на этом телеконференции. Это правило сейчас с ИИ. Позвольте мне начать с предостережения: я не уверен, что ИИ — это то, что вы говорите, это повсеместное научное исследование, которое изменит все по множеству причин. Я скептически отношусь к тому, что без пристального контроля ИИ сможет создавать надежные… вещи, достаточно надежные для использования в условиях высоких ставок. И если надзор требует такого же усердия, как и раньше, то я не знаю, есть ли в этом смысл. Я думаю, что если мы будем осторожны с точки зрения нашего регулирования и скажем: «Послушайте, если ИИ может галлюцинировать и если галлюцинация приводит к смертельным последствиям, то ИИ можно будет контролировать только при некотором соотношении один к… один." Если беспилотный автомобиль 90% времени ездит безопасно и 10% времени ускоряется на встречную полосу движения, то количество водителей-контролеров, необходимое для каждого беспилотного автомобиля, равно одному, то есть вы не уволить одного водителя. Итак, теперь у вас есть более дорогая машина.

Кори Доктороу (06:14):

И я думаю, что любой пузырь, который зависит от продолжения привлечения инвестиционного капитала, который в основном разгорается до того, как будет получена какая-либо прибыль, должен действительно опираться на большую шумиху. И мы видим эту шумиху вокруг нас в огромной степени. Вместо того, чтобы беспокоиться о реальных беспокойствах по поводу ИИ, который представляет собой алгоритм поддержки принятия решений, который отказывает вам в ипотеке из-за вашей расы, или который отправляет вашего ребенка в службы защиты из-за вашего экономического статуса, или который отказывает вам в освобождении под залог или вступлении в стране, мы концентрируемся — честно говоря, в моем профессиональном качестве — на плохой научной фантастике об автозаполнении на стероидах, пробуждении и превращении нас всех в скрепки. Это оставляет в стороне реальные материальные вещи, которые происходят с ИИ.

Пол Шривастава (07:08):

Так какова же роль научных коммуникаторов в разрушении этого пузыря и шумихи, поднятой вокруг ИИ? Я имею в виду, что общее мнение таково, что это изменит все. И я слышу от вас, что в основе этого лежат некоторые реальные фундаментальные проблемы.

Кори Доктороу (07:26):

Я думаю, что в основной линии научной коммуникации об ИИ есть некоторые пробелы, которые можно было бы плодотворно заполнить. Поэтому я никогда не слышал, чтобы научно-популярная программа описывала потенциальные ограничения федеративного обучения. Например, что произойдет, если мы отключим большие серверы? Что, если инвесторы просто уйдут? Как будет выглядеть ИИ, если мы никогда не будем обучать другую крупную модель, а все, что мы будем делать, — это настраивать существующие модели, которые могут работать на обычном оборудовании? А затем классификация приложений, которые не чувствительны к общепонятным проблемам с ИИ, например, приложения с низкими ставками или устойчивые приложения. Что это за приложения? Если взять все заявки, где требуется индивидуальный надзор, то какие именно? И мы их уберем, и что тогда останется?

Пол Шривастава (08:15):

Перейдем к разговору о периоде антропоцена. Процессы, поддерживающие жизнь, сейчас меняются, а то и вовсе рушатся. Как мы можем использовать достижения цифрового мира, о которых вы рассказывали по-разному, чтобы смягчить воздействие человека на окружающую среду и обеспечить устойчивое будущее?

Кори Доктороу (08:38):

Мой последний роман - роман об этом, он называется Потерянное дело. И то, что произошло в этом романе, не является Deus Ex. Мы еще не придумали, как осуществлять улавливание углерода со скоростью, которая бросает вызов всем современным достижениям. Но мы отнеслись к этому серьезно. И вот мы, вы знаете, заперты в этом автобусе, мчимся к обрыву. А люди в первых рядах и в первом классе продолжают говорить: никакого обрыва нет. А если есть обрыв, мы будем просто продолжать ускоряться, пока не преодолеем его. И одно мы знаем наверняка: мы не можем свернуть. Если мы свернем, автобус может перевернуться, и кто-нибудь сломает себе руку, а сломанная рука никому не нужна. И это книга, в которой люди хватаются за руль и сворачивают. Где миллионы людей участвуют в очень серьезных долгосрочных проектах, таких как перенос каждого прибрежного города на несколько километров вглубь страны.

Кори Доктороу (09:32):

И эта адаптация к климату, если подумать, просто кружит голову. Может показаться немного деморализующим думать: ну, я думаю, что весь свободный труд, который у каждого есть в течение следующих 300 лет, пойдет на исправление этих глупых ошибок, которые мы совершили раньше. Итак, эта книга об этом проекте. И речь идет о реализации этого проекта, опираясь на идеи моей дорогой подруги, которая недавно написала очень хорошую книгу, Дебби Чакра, чья книга называется Как работает инфраструктура. А Деб — ученый-материаловед, и она отмечает, что энергии фактически бесконечно много, но материалов очень мало. И все же на протяжении большей части человеческой истории мы относились к материалам как к излишним, использовали их один раз и выбрасывали. И мы считали энергию дефицитной. И есть техническая переориентация, которая скрыта в этой книге и которую Деб очень ясно раскрывает в своей книге, в которой мы делаем такие вещи, как использование большего количества энергии для производства вещей, чтобы их было легче разложить обратно в материальный поток.

Пол Шривастава (10:38):

Кажется, мы заняты поглощением планеты беспрецедентными темпами. И может ли научная фантастика каким-то образом помочь людям переформулировать свое мировоззрение, чтобы оно было более совместимо с тем, что происходит здесь, с нашими проблемами на этой планете?

Кори Доктороу (10:54):

Ну, и это то, о чем я пишу со времен своего романа. Уходи, в 2017 году. Идея о том, что изобилие возникает благодаря доступу к материалу, а также социальному конструированию того, чего мы хотим. И, наконец, эффективность распределения товаров. Итак, я домовладелец, а это значит, что три раза в год мне нужно проделать дырку в стене. Итак, у меня есть дрель, и я в шутку называю ее минимально жизнеспособной дрелью. Это бур, который экономически выгоден для тех, кто проделывает три лунки в год. И мне придется отказаться от целого ящика для хранения этой ужасной дрели. И вы понимаете, что платите огромный налог, как за качество имеющихся у вас товаров, так и за наличие места в вашем доме, чтобы сохранить доступ к вещам, которые вам редко нужны. Есть еще один вид учений, я иногда называю его библиотечными учениями по социализму, когда в вашем районе просто стохастическое облако учений, которые знают, где они находятся, и сохраняют телеметрию об их использовании для улучшения будущего производства. Они легко разлагаются обратно в материальный поток. И вы всегда можете взять в руки дрель, когда она вам понадобится, и это величайшая дрель, когда-либо созданная.

Кори Доктороу (12:08):

Умножьте это на газонокосилки и дополнительные тарелки, которые вы держите на Рождество или званые обеды, а также на все другие вещи, которые есть в вашем доме и которые вам не нужны постоянно. И это мир огромного изобилия. Это больше роскоши. И когда вы объедините эти три вещи: эффективность использования материалов и энергии, координационный характер технологий и инженерию по нашему желанию, мы получим будущее, в котором мы будем жить с гораздо меньшими затратами материалов и энергии и иметь гораздо больше роскошная жизнь. Жизнь огромного изобилия.

Пол Шривастава (12:42):

В связи с этим обнадеживающим сообщением я задам вам последний вопрос. То есть, если бы наука могла извлечь один урок из научной фантастики, что бы вы подумали?

Кори Доктороу (12:56):

Я бы сказал, что самое важное, что делает научная фантастика в отношении науки, — это бросает вызов социальным отношениям технологий, научных открытий и научных знаний. Самый важный вопрос о технологии редко звучит так: что она делает? Но, скорее, для кого это делается и для кого это делается? И эта технология, находящаяся под демократическим контролем, сильно отличается от технологий, навязанных людям.

Идея о том, что технология разработана со смирением, позволяющим понимать, что вы не можете предсказать обстоятельства, при которых эта технология будет использоваться – и поэтому вы оставляете возможность самим пользователям адаптировать ее – это лучшее из всех технических миров. И в каждом языке есть свое название для этого. Вы могли бы назвать это бредом, что иногда звучит немного уничижительно. Но я думаю, что нам всем нравится хороший бодж. По-французски это бриколаж. На хинди это Джугад.

Пол Шривастава (14:00):

Джугаад!

Кори Доктороу (14:02):

В каждом языке есть слово, обозначающее это, и нам оно нравится. И только благодаря смирению предвидеть непредвиденное мы становимся достойными предками для наших интеллектуальных потомков, которые придут после нас.

Пол Шривастава (14:22):

Благодарим вас за прослушивание этого подкаста Центра будущего науки Международного научного совета, созданного в сотрудничестве с Центром человеческого воображения Артура Кларка в Калифорнийском университете в Сан-Диего. Посетите сайт Futures.council.science, чтобы узнать больше о работе Центра будущего науки. Он фокусируется на новых тенденциях в науке и исследовательских системах и предоставляет варианты и инструменты для принятия более обоснованных решений.

Пол Шривастава, профессор менеджмента и организаций Университета штата Пенсильвания, вел серию подкастов. Специализируется на реализации Целей устойчивого развития. Подкаст также создан в сотрудничестве с Центром человеческого воображения Артура Кларка при Калифорнийском университете в Сан-Диего.

Проект курировал Матье Дени и пронесено Донг ЛюС Центр научного будущего, аналитический центр ISC.

фотография из Элименде Инагелла on Unsplash.

Отказ от ответственности
Информация, мнения и рекомендации, представленные в этой статье, принадлежат отдельным авторам и не обязательно отражают ценности и убеждения Международного научного совета.