科学者や研究者は、将来のシナリオの予測への貢献として SF をますます高く評価しています。 科学と科学システムの変化が私たちを導く方向性を探るという使命の一環として、 科学未来センター XNUMX人の一流SF作家と対談し、今後数十年で私たちが直面する多くの社会的課題に科学がどのように対処できるかについて彼らの見解を集めました。 ポッドキャストはと提携しています 自然.
第 XNUMX 回のエピソードでは、Qiufan Chen が参加し、人間の取り組みとしての科学における主体性と社会的責任について話し合います。 チェン氏にとって、これは特に人工知能に当てはまります。 ポッドキャストの中で、彼は科学研究の将来に対する AI の影響と、AI の開発をどのように規制してより倫理的なものにすることができるかについて説明します。
お気に入りのプラットフォームで購読して聴いてください
チェン・キュファン
Qiufan Chen は、受賞歴のある中国の推理小説作家であり、『 ウェイスト・タイド との共著 AI 2041：私たちの未来のためのXNUMXのビジョン。 彼はイェール大学の研究者であり、米国のバーググルーン研究所の研究員でもあります。 私たちの主な議論は、人工知能がもたらす危険を回避しながら、このテクノロジーの力をどのように活用できるかということを中心にしています。
成績証明書（トランスクリプト）
ポール・シュリヴァスタヴァ (00:04):
こんにちは、ペンシルベニア州立大学のポール・シュリヴァスタヴァです。 そして、このポッドキャスト シリーズでは、今日の主要な SF 作家の何人かと話しています。 科学の将来について、そして今後私たちが直面する課題に対処するために科学がどのように変革しなければならないかについて、彼らの意見を聞きたいです。
チウファン・チェン (00:24):
将来の AI は、私たちが自分自身を鏡として映し、より良い人間になるために利用されるかもしれません。
ポール・シュリヴァスタヴァ (00:33):
今日は、受賞歴のある中国人作家、Qiufan Stanley Chen と話します。彼の小説を読んだのですが、 ウェイスト・タイド 何年も前に、電子廃棄物の苦境を描いた彼の描写に感銘を受けました。彼の最新の共著本 AI 2041: 私たちの未来の 10 のビジョン、想像力豊かなストーリーと科学的な予測を鮮やかに組み合わせています。私たちは人工知能について、そしてそれがもたらす危険の一部を回避しながら、この驚くべきテクノロジーの力をどのように活用できるかについて、たくさん話し合いました。
スタンさん、ご参加いただきまして誠にありがとうございます。いらっしゃいませ。あなたが精通している科学的トピックの範囲が本当に注目に値するのは驚くべきことです。どのようにしてこれらの科学的なテーマに興味を持つようになったのですか?
チウファン・チェン (01:28):
ですから、SF ファンとして、私はそれらすべてからスタートしたことを認めなければなりません。 スターウォーズ, Star Trek, Jurassic Park、古典的な SF 映画や書籍、当時のアニメーション。毎回、たくさんの新しいインスピレーションやアイデアを与えてくれました。そのため、私は常にこれらすべての兆候、未来や宇宙空間、さらには数百万年前の種の想像力に完全に魅了されていました。では、どうやって彼らを生き返らせたのか。
ポール・シュリヴァスタヴァ (02:02):
このように、科学は非常に長い間続いてきました。 人間の取り組みとしての科学について、あなたの一般的な見解は何ですか?
チウファン・チェン (02:13):
私にとって、それは間違いなく大きな成果です。 そしてもちろん、それは私たちを人間としてより良い状態で生きさせます。 そして、歴史を振り返ると、多くの課題があることを認めざるを得ません。なぜなら、政府機関が完全に人間の手に委ねられているわけではないように私には感じられるからです。 科学やテクノロジーは、ある種の種、ある種の生物学的存在と同じように、独自の目的を持っているのではないかと時々思うことがあります。 独自の誕生ライフサイクルがあります。 人類とともに存在し、進化していきたいと考えています。 つまり、私たちは宿主のようなもので、彼らはウイルスのようなものです。 そういう見方もできますし、その逆の見方もできます。 ですから、科学と人間の間には本当に深い関わりがあるのだと常々感じています。 ですから、科学技術の発展によって私たちは大きく変わってしまったように感じることがありますが、私たちの先に何があるかは決してわかりません。
ポール・シュリヴァスタヴァ (03:24):
では、話をより具体的にして、今一番気になっているもの、つまり人工知能に焦点を当ててみましょう。 AI の開発に社会正義と倫理的および道徳的配慮を確実に反映させるにはどうすればよいでしょうか?
チウファン・チェン (03:40):
問題は、この種の規制や、ネガティブなことが起こることを倫理的に防ぐ枠組みを構築するために十分な投資をしなかったことです。 AI、特に大規模な言語モデルについては、より多様性が必要だと思います。なぜなら、特に調整について話しているからです。 つまり、国、文化、言語が異なる人間の間であっても、単一の基準としてこの共通の調整を持っていませんでした。 では、機械や AI に、人間の価値観や標準を XNUMX つの統合されたものとして調整するように教えるにはどうすればよいでしょうか? したがって、これは非常に予備的なものだと思います。 しかし、重要なインプットはテクノロジー企業やエンジニア、業界でそのことに取り組んでいるすべての人々からだけでなく、例えば人類学や心理学、社会学などの学際的な世界からも得られるべきだと思います。 AIは人々のために作られ、人々に奉仕するものであるため、人文科学からのより多様な視点が必要です。 しかし、今のところ人間的要素がかなり欠けているように感じます。
ポール・シュリヴァスタヴァ (05:11):
では、これらの技術の進歩は将来の科学のやり方をどのように変えると思いますか?
チウファン・チェン (05:19):
これは、科学者が AI を使用して新しいパターンを探し、タンパク質の構造を予測し、膨大な量のデータ内の相関関係を見つけることができる、まったく新しいパラダイム シフトであるように私には思えます。これは革命的なことになると思います。しかし、このプロセスには多くの懸念もあります。たとえば、現在、私たちは何百万ものタンパク質の構造を予測できますが、問題は、これらすべてのタンパク質構造の予測のうち、どれだけの割合が有効であり、実際の病気や実際の人体に有効であるかということです。そしてもう 1 つは、この革命的な分野はすべて、膨大な量のデータセットを蓄積することに重点を置いているということです。このデータはどのようなグループから収集されていますか?どのような人口ですか?そして、彼らはこのデータを予告なしに共有していますか？すべてが使用されていますか？そして、科学者や研究者の異なるグループ間でデータを共有しているでしょうか?したがって、これは常に、リスクと課題を最小限に抑えながら、市場の要求を真に満たし、人々に最大の利益をもたらすために、この種の相殺システムをどのように構築できるかということだと思います。
ポール・シュリヴァスタヴァ (06:56):
そうですね、抑制と均衡のシステムを構築することは AI の開発の重要な部分だと思います。しかし、人工知能自体が環境に与える影響については、公的科学の物語の中でほとんど言及されていません。
チウファン・チェン (07:13):
これは非常に逆説的ですが、AI には非常に多くのパワーが必要です。そしてリアルタイムの計算が必要です。環境からの抽出が非常に必要です。しかしその間、衛星から山火事を検知するためにそれを使用することができます。生物多様性を保護するためにそれを使用できます。これを使用して、バッテリーのエネルギー貯蔵、スマートグリッド、さらには将来的には核融合技術などの新しいソリューションを見つけることができます。したがって、正しく使用すれば、間違いなく私たちを守り、気候変動と戦うことができます。
ポール・シュリヴァスタヴァ (08:03):
将来のある時点で、AI は人間が理解できる以上のことを理解できるようになると思いますか?
チウファン・チェン (08:13):
それで、私が考えているのは、人間を超えた大きな模型のようなものです。 たとえば、データは動物、植物、菌類、さらにはミクロや環境全体からのものです。 つまり、私たちは地球全体のモデルについて話しているのです。 この種のセンサー層を世界中に展開する必要があります。 したがって、レムの小説『The Invincible』で言及されたスマート ダストを使用できるかもしれません。 つまり、あなたはこの小さな塵の群れについて話しているのですが、基本的にそれは集合知です。 そして、人間はこの種の大きなモデルから多くのことを学ぶことができます。なぜなら、それは私たちの感覚システムを超え、人間を超えた何かを知覚するのに役立つからです。 そうすれば、私たちは人間中心ではなくなり、他の種に対してもっと思いやりを持つことができるようになります。 そして、おそらくそれが気候変動と戦う解決策になるでしょう。なぜなら、私たちは他の種がどのように感じているか、そしてこのすべての痛み、すべての苦しみ、すべての犠牲が具体的で現実的なものである可能性があるからです。
ポール・シュリヴァスタヴァ (09:36):
素晴らしい。 人間のモデルで人工知能を想像することは、実際には人工についての劣った考え方です…より優れた方法、いわゆる全世界モデルを開発する方法です。
チウファン・チェン (09:54):
うん。それで、これは私に仏教を思い出させます。なぜなら、仏教では、すべての知覚のある種は可能な限り平等であり、人間が他のものより優れていると考えられているなどということはありません。そこで私は、仏教と道教の哲学と価値観をすべてマシンに組み込む方法を見つける必要があると常に考えています。
ポール・シュリヴァスタヴァ (10:27):
それで、あなたは AI の技術的要素を理解しているのではないかと思います。 AIは仏教や道教で訓練できるのでしょうか？ なぜなら、すべての本や価値観はすでに成文化されているからです。 もし望むなら、それらを訓練して人工的な世界宗教を作り出すAIを見つけることは可能でしょうか？
チウファン・チェン (10:50):
それは間違いなく可能であり、世界中のどの聖職者、どの僧侶、どの導師よりも優れた仕事をすることができるでしょう。なぜなら、それは非常に知識が豊富だからです。しかし、道教の実践者として、宗教的または精神的な経験と呼ばれる、これらすべての総合的な理解を超えた何かが体の中にあるのです。したがって、この物理的な宿題をすべて行う必要があります。つまり、これは AI にまだ欠けている点だと思います。たとえば、それには身体も、複雑な感覚システムも、自己認識もありませんでした。そして、それらすべての部分が人間を人間たらしめているのだと思います。将来の AI は、私たちが自分自身を鏡として映し、より良い人間になるために利用されるかもしれません。
ポール・シュリヴァスタヴァ (11:49):
あなたの想像の中で、AI は魂を持つことができるでしょうか?
チウファン・チェン (11:54):
意識の出現は、現時点では基本的に科学の謎です。したがって、大規模言語モデルの創発能力と、古典物理学や量子物理学の複雑なシステムにおけるすべての創発現象との間には、間違いなく何らかのつながりがあると私には感じられます。したがって、数学的には、いつか意識の存在を証明できるかもしれないと思います。しかし、それはゼロか 1 つのステータスではなく、継続的に続くステータスのスペクトルのようなものです。つまり、岩や木、川や山さえも、ある程度の意識を持っているのかもしれませんが、私たちはあまりにも人間中心なので、それを認識できなかっただけなのです。しかし、それはすべて計算に関するものです。すべては時間空間の圧縮に関するものです。すべては情報の保存に関するものです。したがって、すべてはエントロピーの削減に関するものです。したがって、これは認識論的な問題ではなく、存在論的な問題だと思います。つまり、それは存在についてなのです。
ポール・シュリヴァスタヴァ (13:14):
カリフォルニア大学サンディエゴ校のアーサー・C・クラーク人間想像力センターとの提携により行われた、国際科学会議の将来科学センターによるこのポッドキャストをお聴きいただきありがとうございます。未来科学センターによるその他の取り組みについては、futures.council.science にアクセスしてください。科学と研究システムの新たなトレンドに焦点を当て、より適切な情報に基づいた意思決定を行うためのオプションとツールを提供します。
ペンシルベニア州立大学の経営と組織の教授、ポール・シュリヴァスタヴァがポッドキャスト シリーズの司会を務めました。 彼は持続可能な開発目標の実施を専門としています。 このポッドキャストは、カリフォルニア大学サンディエゴ校のアーサー・C・クラーク人間想像力センターとも協力して行われています。
このプロジェクトを監督したのは、 マチュー・デニス そして運ばれる ドン・リウ、 から 科学未来センター、ISCのシンクタンク。
免責事項
この記事に記載されている情報、意見、推奨事項は寄稿者個人のものであり、必ずしも国際科学会議の価値観や信念を反映しているわけではありません。
