Podcast amb Qiufan Chen: ciència ficció i futur de la ciència: valors i sentits en intel·ligència artificial

Científics i investigadors valoren cada cop més la ciència ficció per les seves contribucions a anticipar escenaris futurs. Com a part de la seva missió d'explorar les direccions en què ens porten els canvis en la ciència i els sistemes científics, el Centre de futurs científics es va reunir amb sis autors de ciència-ficció líders per reunir les seves perspectives sobre com la ciència pot fer front als molts reptes socials als quals ens enfrontarem en les properes dècades. El podcast està en col·laboració amb Nature.

En el nostre cinquè episodi, Qiufan Chen s'uneix a nosaltres per parlar de l'agència i la responsabilitat social en la ciència com a esforç humà. Per a Chen, això és especialment aplicable a la intel·ligència artificial. Durant el podcast, ens explica els impactes de la IA en el futur de la investigació científica i com els desenvolupaments de la IA es poden regular més i, per tant, fer-los més ètics.

Subscriu-te i escolta a través de la teva plataforma preferida

Qiufan Chen

Qiufan Chen és un escriptor de ficció especulatiu xinès guardonat, autor de La marea de residus i coautor de AI 2041: Deu visions per al nostre futur. També és investigador de la Universitat de Yale i membre del Berggruen Institute, EUA. El nostre debat principal se centra en la intel·ligència artificial, com podem aprofitar el poder d'aquesta tecnologia alhora que evitem els perills que suposa.

Transcripció

Paul Shrivastava (00:04):

Hola, sóc Paul Shrivastava de la Pennsylvania State University. I, en aquesta sèrie de podcasts, parlo amb alguns dels principals escriptors de ciència ficció actuals. Vull escoltar les seves opinions sobre el futur de la ciència i com s'ha de transformar per afrontar els reptes que ens enfrontem en els propers anys.

Qiufan Chen (00:24):

La IA en el futur, potser podria servir per ajudar-nos a reflectir-nos com un mirall, per convertir-nos en un ésser humà millor.

Paul Shrivastava (00:33):

Avui parlo amb Qiufan Stanley Chen, un escriptor xinès guardonat. Vaig llegir la seva novel·la, La marea de residus fa molts anys, i va quedar impressionat pel seu retrat dels problemes dels residus electrònics. El seu darrer llibre en coautor AI 2041: 10 visions del nostre futur, combina de manera vívida històries imaginatives amb previsions científiques. Hem parlat molt sobre la intel·ligència artificial i com podem aprofitar el poder d'aquesta tecnologia increïble, evitant alguns dels perills que suposa.

Moltes gràcies per acompanyar-nos, Stan. Benvingut. És increïble que la gamma de temes científics que domina és realment notable. Com vas començar a interessar-te per aquests temes científics?

Qiufan Chen (01:28):

Per tant, com a fan de la ciència-ficció, he d'admetre que vaig començar per tot això Star Wars, Star Trek, Jurassic Park, pel·lícules i llibres clàssics de ciència-ficció, animacions de l'època. Cada cop em va donar molta inspiració i idees noves. Per tant, sempre em van fascinar totalment tots aquests signes, la imaginació del futur i l'espai exterior i fins i tot les espècies de fa milions d'anys. Així doncs, com els vam tornar a la vida.

Paul Shrivastava (02:02):

Per tant, la ciència fa molt de temps. Quina és la teva visió general de la ciència com a esforç humà?

Qiufan Chen (02:13):

Per a mi, sens dubte, és un gran èxit. I, per descomptat, ens fa viure una millor condició com a ésser humà. I, quan mirem enrere a la història, he d'admetre que hi ha molts reptes, perquè em sembla que l'agència no està absolutament en mans dels éssers humans. De vegades sento que potser la ciència i la tecnologia, igual que una espècie d'espècie, com una mena d'éssers biològics, té el seu propi propòsit. Té el seu propi cicle de vida de naixement. Vol ser i evolucionar juntament amb els éssers humans. Per tant, som com l'amfitrió, ells són com el virus. Ho podem veure d'aquesta manera o a l'inrevés. Per tant, sempre sento que hi ha un enredament molt profund entre la ciència i els éssers humans. Per tant, de vegades sento que ens han canviat molt tot aquest desenvolupament de la ciència i la tecnologia, però mai sabem quina és la direcció que tenim per davant.

Paul Shrivastava (03:24):

Bé, fem-ho més concret i centrem-nos en el que és el més important ara mateix, que és la intel·ligència artificial. Com podem garantir que el desenvolupament de la IA inclogui justícia social i consideracions ètiques i morals?

Qiufan Chen (03:40):

El problema és que no hem invertit del tot per crear aquest tipus de regulació i marc per evitar èticament que alguna cosa negativa succeís. Crec que necessitem més diversitat en IA, i sobretot en gran model de llenguatge, perquè estem parlant específicament d'alineació. Per tant, fins i tot entre els éssers humans de diferents països, cultures i llengües, no teníem aquesta alineació compartida com a estàndard únic. Aleshores, com podem ensenyar a la màquina, la IA, a alinear-se amb el sistema de valors humans o amb els estàndards com a un integral? Per tant, crec que això és una cosa molt preliminar. Però, crec que l'aportació clau hauria de ser no només de les empreses tecnològiques, dels enginyers, de tota aquesta gent que fa coses a la indústria, sinó també del món interdisciplinari, com l'antropologies i les psicologies, la sociologia, per exemple. Necessitem una perspectiva més diversa des de les humanitats, perquè se suposa que la IA s'ha de construir per a la gent, per servir a la gent. Però, el factor humà en aquest moment, puc sentir que falta bastant al bucle.

Paul Shrivastava (05:11):

Per tant, segons la teva opinió, com canviaran aquests avenços tecnològics la manera com es farà la ciència en el futur?

Qiufan Chen (05:19):

Em sembla que aquest és un canvi de paradigma totalment nou que els científics poden utilitzar la IA per buscar nous patrons, predir l'estructura de la proteïna i trobar la correlació amb una gran quantitat de dades. Crec que això serà una cosa revolucionari. Però també hi ha moltes preocupacions en aquest procés. Per exemple, ara mateix podem predir milions d'estructura de proteïnes, però el problema és, quin percentatge de totes aquestes prediccions de l'estructura de proteïnes són vàlids i són efectius per a la malaltia real i el cos humà real? I una altra cosa és que tota aquesta àrea revolucionada està molt centrada en acumular una gran quantitat de conjunt de dades. Aquestes dades es recullen de quin tipus de grup? Quin tipus de població? I estan compartint aquestes dades amb avís, tot s'ha utilitzat? I estem compartint les dades entre diferents grups de científics o investigadors? Per tant, crec que això sempre és una cosa sobre com podem construir aquest tipus de sistema de contrapesos per minimitzar els riscos i els reptes, alhora que satisfer realment les demandes del mercat i treure els millors beneficis per a la gent.

Paul Shrivastava (06:56):

Sí, crec que la construcció del sistema de controls i equilibris és una part important del desenvolupament de la IA. Però els impactes ambientals de la pròpia intel·ligència artificial poques vegades s'esmenten a les narracions de ciència pública.

Qiufan Chen (07:13):

Això és una cosa molt paradoxal, perquè la IA requereix molta potència. I necessita càlculs en temps real. Necessita molta extracció del medi ambient. Però, mentrestant, podem utilitzar-lo per detectar el foc salvatge des del satèl·lit. Podem utilitzar-lo per protegir la biodiversitat. Podem utilitzar-lo per trobar una nova solució com l'emmagatzematge d'energia de la bateria, les xarxes intel·ligents i potser fins i tot la tecnologia de fusió nuclear en el futur. Per tant, si l'utilitzeu de la manera correcta, definitivament ens pot protegir i lluitar contra el canvi climàtic.

Paul Shrivastava (08:03):

En algun moment del futur, creus que la IA entendrà més del que els humans poden entendre?

Qiufan Chen (08:13):

Per tant, el que he estat pensant és en algun model, com un model gran més enllà dels humans. Per exemple, les dades són d'animals, plantes, fongs, fins i tot de micro i tot el medi ambient. Per tant, estem parlant de tot el model de la Terra. Hem de desplegar aquest tipus de capes de sensors arreu del món. Per tant, potser podem utilitzar pols intel·ligent, que es va esmentar a la novel·la de Lem L'invencible. Per tant, estàs parlant de tot aquest eixam de pols petita, bàsicament és una intel·ligència col·lectiva. I, l'ésser humà pot aprendre molt d'aquest tipus de gran model, perquè ens ajuda a percebre alguna cosa més enllà del nostre sistema sensorial i més enllà dels humans. Aleshores podem ser menys centrats en l'ésser humà i podem ser més compasius per les altres espècies. I, potser aquesta seria la solució per lluitar contra el canvi climàtic, perquè podem sentir com se senten les altres espècies i tot aquest dolor, tot aquest patiment, tot aquest sacrifici podria ser quelcom tangible i real.

Paul Shrivastava (09:36):

Meravellós. Imaginar la intel·ligència artificial en el model dels humans és en realitat una manera inferior de pensar sobre l'artificial... La manera més superior, el que anomeneu el model del món sencer és la manera de desenvolupar-se.

Qiufan Chen (09:54):

Sí. Per tant, això em recorda el budisme, perquè en el budisme, com totes les espècies sensibles, són tan iguals com sigui possible, i no hi ha res que se suposa que els éssers humans siguin primers que els altres. Per tant, sempre estic pensant que hem de trobar una manera d'incorporar tota aquesta filosofia i valors del budisme i el taoisme a la màquina.

Paul Shrivastava (10:27):

Per tant, em pregunto, enteneu els elements tècnics de la IA. Es pot entrenar la IA en budisme, en taoisme? Perquè tots els llibres i valors ja estan codificats. És possible trobar IA que els entreni i creï una religió mundial sintètica, si voleu?

Qiufan Chen (10:50):

Definitivament podria, i podria fer una feina millor que qualsevol dels sacerdots, qualsevol dels monjos, qualsevol dels gurus del món, perquè és molt ben informat. Però, com a practicant del taoisme, hi ha alguna cosa més enllà de la comprensió sintètica de tot això, anomenar-ho experiència religiosa o espiritual, és quelcom corporal. Per tant, heu de fer tots aquests deures físics. Per tant, crec que això és una cosa que encara manca a l'IA. No tenia cos, no tenia el complex sistema sensorial, no tenia autoconsciència, per exemple. I crec que tota aquesta part és el que fa que un humà sigui humà. La IA en el futur, potser podria servir per ajudar-nos a reflectir-nos com un mirall, per convertir-nos en un ésser humà millor.

Paul Shrivastava (11:49):

En la teva imaginació, la IA pot tenir ànima?

Qiufan Chen (11:54):

L'aparició de la consciència és bàsicament un misteri en la ciència ara mateix. Per tant, em sembla que definitivament hi ha alguna connexió entre la capacitat emergent de grans models de llenguatge amb tots aquests fenòmens d'aparició en sistemes de complexitat de física clàssica o quàntica. Així que crec que matemàticament, potser algun dia podrem demostrar l'existència de la consciència. Però no és zero ni un estat, sinó que és com l'espectre continu d'estatus. Això vol dir que potser fins i tot una roca, fins i tot un arbre, fins i tot el riu o la muntanya tenen un cert nivell de consciència, però simplement no ho vam reconèixer perquè estem molt centrats en l'ésser humà. Però tot és qüestió de càlcul. Es tracta de la compressió de l'espai temporal. Tot es tracta de preservar la informació. Per tant, es tracta de la reducció de l'entropia. Per tant, no és una qüestió d'epistemologia, però crec que és una qüestió ontològica. Per tant, es tracta de l'existència.

Paul Shrivastava (13:14):

Gràcies per escoltar aquest podcast del Centre for Science Futures de l'International Science Council, fet en col·laboració amb el Arthur C. Clarke Center for Human Imagination de la UC San Diego. Visiteu futures.council.science per descobrir més treballs del Center for Science Futures. Se centra en les tendències emergents en ciència i sistemes de recerca i ofereix opcions i eines per prendre decisions millor informades.

Paul Shrivastava, professor de gestió i organitzacions a la Pennsylvania State University, va acollir la sèrie de podcasts. Està especialitzat en la implementació dels Objectius de Desenvolupament Sostenible. El podcast també es fa en col·laboració amb el Centre Arthur C. Clarke per a la Imaginació Humana de la Universitat de Califòrnia, San Diego.

El projecte va ser supervisat per Mathieu Denis i portat per Dong Liu, Des del Centre de futurs científics, el think tank de l'ISC.

foto de la KOMMERS on Unsplash.

renúncia
La informació, opinions i recomanacions presentades en aquest article són les dels col·laboradors individuals i no reflecteixen necessàriament els valors i creences del Consell Internacional de la Ciència.