Podcast cu Qiufan Chen: Science Fiction and the Future of Science: Values and Senses in Artificial Intelligence

Oamenii de știință și cercetătorii apreciază din ce în ce mai mult science fiction pentru contribuțiile sale la anticiparea scenariilor viitoare. Ca parte a misiunii sale de a explora direcțiile în care ne conduc schimbările în știință și sistemele științifice, Centrul pentru viitorul științei S-a întâlnit cu șase autori de știință ficțiune de top pentru a-și aduna perspectivele despre modul în care știința poate face față numeroaselor provocări societale cu care ne vom confrunta în următoarele decenii. Podcastul este în parteneriat cu Natură.

În al cincilea episod, Qiufan Chen ni se alătură pentru a discuta despre agenție și responsabilitate socială în știință ca efort uman. Pentru Chen, acest lucru este aplicabil în special inteligenței artificiale. În timpul podcastului, el ne prezintă impactul AI asupra viitorului cercetării științifice și modul în care evoluțiile AI pot fi mai reglementate și, astfel, mai etice.

Abonează-te și ascultă prin platforma ta preferată

Qiufan Chen

Qiufan Chen este un scriitor chinez de ficțiune speculativă premiat, autor de Marea deșeurilor şi co-autor a AI 2041: Zece viziuni pentru viitorul nostru. Este, de asemenea, cercetător la Universitatea Yale și membru al Institutului Berggruen, SUA. Discuția noastră principală se concentrează pe inteligența artificială, cum putem valorifica puterea acestei tehnologii evitând în același timp pericolele pe care le prezintă.

Copie

Paul Shrivastava (00:04):

Bună, sunt Paul Shrivastava de la Universitatea de Stat din Pennsylvania. Și, în această serie de podcast, vorbesc cu unii dintre cei mai importanți scriitori de science-fiction de astăzi. Vreau să aud părerile lor despre viitorul științei și despre modul în care aceasta trebuie să se transforme pentru a face față provocărilor cu care ne confruntăm în anii următori.

Qiufan Chen (00:24):

AI în viitor, poate că ar putea fi folosită pentru a ne ajuta să ne reflectăm ca o oglindă, pentru a ne face să devenim o ființă umană mai bună.

Paul Shrivastava (00:33):

Astăzi, vorbesc cu Qiufan Stanley Chen, un scriitor chinez premiat. I-am citit romanul, Marea deșeurilor cu mulți ani în urmă și a fost impresionat de portretizarea pe care a descris-o situațiile dificile ale deșeurilor electronice. Cea mai recentă carte a sa co-autor AI 2041: 10 viziuni ale viitorului nostru, îmbină în mod viu poveștile imaginative cu previziunile științifice. Am vorbit mult despre inteligența artificială și despre cum putem valorifica puterea acestei tehnologii incredibile, evitând în același timp unele dintre pericolele pe care le prezintă.

Îți mulțumim foarte mult că ni ești alături, Stan. Bine ati venit. Este uimitor că gama de subiecte științifice pe care le stăpânești este cu adevărat notabilă. Cum ai ajuns să fii interesat de aceste subiecte științifice?

Qiufan Chen (01:28):

Deci, ca fan SF, trebuie să recunosc că am plecat de la toate acestea Razboiul Stelelor, Star Trek, Parcul Jurassic, filme și cărți SF clasice, animații de pe vremuri. De fiecare dată mi-a oferit o mulțime de inspirație și idei noi. Așadar, am fost întotdeauna total fascinat de toate aceste semne, de imaginația viitorului și a spațiului cosmic și chiar de speciile de acum milioane de ani. Deci, cum i-am readus la viață.

Paul Shrivastava (02:02):

Deci, știința continuă de foarte mult timp. Care este viziunea dumneavoastră generală asupra științei ca efort uman?

Qiufan Chen (02:13):

Pentru mine, este cu siguranță o realizare uriașă. Și, desigur, ne face să trăim o condiție mai bună ca ființă umană. Și, când ne uităm înapoi la istorie, trebuie să recunosc că există o mulțime de provocări, pentru că mi se pare că agenția nu este absolut în mâinile ființelor umane. Uneori simt că poate știința și tehnologia, la fel ca un fel de specie, ca un fel de ființe biologice, își au propriul scop. Are propriul ciclu de viață de naștere. Vrea să fie și să evolueze împreună cu ființele umane. Deci, noi suntem ca gazda, ei sunt ca virusul. O putem vedea în felul ăsta sau invers. Așa că, întotdeauna simt că există o încurcătură profundă între știință și ființe umane. Așadar, uneori simt că am fost foarte schimbați de toată această dezvoltare a științei și tehnologiei, dar nu știm niciodată care este direcția în fața noastră.

Paul Shrivastava (03:24):

Ei bine, haideți să o facem mai concretă și să ne concentrăm pe ceea ce este în prim-plan acum, adică inteligența artificială. Cum ne putem asigura că dezvoltarea IA, aducem în considerare justiția socială și considerațiile etice și morale?

Qiufan Chen (03:40):

Problema este că nu am investit pe deplin pentru a construi acest tip de reglementare și cadru de prevenire etic să se întâmple ceva negativ. Cred că avem nevoie de mai multă diversitate pe AI, și mai ales pe modelul de limbaj mare, pentru că vorbim în mod specific de aliniere. Deci, chiar și între ființele umane din diferite țări, culturi, limbi, nu am avut această aliniere comună ca standard unic. Deci, cum putem învăța mașina, AI, să fie aliniată cu sistemul de valori umane sau cu standardele ca unul integral? Deci, cred că acesta este ceva foarte preliminar. Dar, cred că contribuția cheie ar trebui să fie nu numai de la companiile de tehnologie, de la ingineri, de la toți acești oameni care fac acest lucru în industrie, ci și din lumea interdisciplinară, cum ar fi antropologiile și psihologiile, sociologia, de exemplu. Avem nevoie de o perspectivă mai diversă din științe umaniste, pentru că AI ar trebui să fie construită pentru oameni, pentru a servi oamenii. Dar, factorul uman chiar acum, pot simți că lipsește destul de mult în buclă.

Paul Shrivastava (05:11):

Deci, în opinia dumneavoastră, cum vor schimba aceste progrese tehnologice modul în care se va face știința în viitor?

Qiufan Chen (05:19):

Mi se pare că aceasta este o schimbare de paradigmă complet nouă pe care oamenii de știință o pot folosi AI pentru a căuta noi modele, a prezice structura proteinelor și a găsi corelația într-o cantitate imensă de date. Cred că asta va fi ceva revoluționar. Dar, de asemenea, există o mulțime de preocupări în cadrul acestui proces. De exemplu, acum putem prezice milioane de structuri de proteine, dar problema este, cât de mult procent din toate aceste predicții ale structurii proteinelor sunt valide și sunt eficiente pentru boala reală și pentru corpul uman real? Și un alt lucru este că toată această zonă revoluționată se concentrează foarte mult pe acumularea unei cantități uriașe de set de date. Aceste date sunt colectate de la ce fel de grup? Ce fel de populație? Și partajează aceste date cu notificare, totul a fost folosit? Și împărtășim datele între diferite grupuri de oameni de știință sau cercetători? Așa că cred că acesta este întotdeauna ceva despre modul în care putem construi acest tip de sistem de contrabalansare pentru a minimiza riscurile și provocările, între timp pentru a îndeplini cu adevărat cerințele pieței și pentru a aduce cele mai bune beneficii pentru oameni.

Paul Shrivastava (06:56):

Da, cred că construirea sistemului de control și echilibru este o parte importantă a dezvoltării AI. Dar efectele asupra mediului ale inteligenței artificiale în sine sunt rareori menționate în narațiunile științifice publice.

Qiufan Chen (07:13):

Acesta este ceva foarte paradoxal, pentru că AI necesită atât de multă putere. Și are nevoie de calcul în timp real. Are nevoie de atât de multă extracție din mediu. Dar între timp, îl putem folosi pentru a detecta focul sălbatic de la satelit. Îl putem folosi pentru a proteja biodiversitatea. Îl putem folosi pentru a găsi o nouă soluție precum stocarea energiei bateriei, rețelele inteligente și poate chiar tehnologia de fuziune nucleară în viitor. Deci, dacă îl folosiți în mod corect, ne poate proteja cu siguranță și ne poate lupta împotriva schimbărilor climatice.

Paul Shrivastava (08:03):

La un moment dat în viitor, crezi că AI va înțelege mai mult decât ceea ce oamenii pot înțelege?

Qiufan Chen (08:13):

Deci, la ce m-am gândit este un model, cum ar fi un model mare dincolo de uman. De exemplu, datele sunt de la animale, plante, ciuperci, chiar și din micro și întregul mediu. Deci, vorbim despre întregul model al Pământului. Trebuie să implementăm acest tip de straturi de senzori în întreaga lume. Deci, poate putem folosi praful inteligent, care a fost menționat în romanul lui Lem Invincibilul. Deci, vorbești despre tot acest roi de praf mic, practic este o inteligență colectivă. Și, omul poate învăța atât de multe din acest tip de model mare, pentru că ne ajută să percepem ceva dincolo de sistemul nostru senzorial și dincolo de om. Atunci putem fi mai puțin centrați pe om și putem fi mai multă compasiune față de alte specii. Și, poate că aceasta ar fi soluția de a lupta împotriva schimbărilor climatice, pentru că putem simți cum simt celelalte specii și toată această durere, toată această suferință, toate aceste sacrificii ar putea fi ceva tangibil și real.

Paul Shrivastava (09:36):

Minunat. Imaginarea inteligenței artificiale în modelul uman este de fapt un mod inferior de a gândi artificial... Cu cât mai superioară, ceea ce numiți modelul lumii întregi este modul de dezvoltare.

Qiufan Chen (09:54):

Da. Așadar, asta îmi amintește de budism, pentru că în budism, la fel ca toate speciile simțitoare sunt cât se poate de egale, și nu există așa ceva ca ființele umane care ar trebui să fie premiere decât altele. Deci, mă gândesc mereu că trebuie să găsim o modalitate de a încorpora toată această filozofie și valori ale budismului și taoismului în mașină.

Paul Shrivastava (10:27):

Deci, mă întreb, înțelegeți elementele tehnice ale AI. Poate fi antrenat AI în budism, în taoism? Pentru că toate cărțile și valorile sunt deja codificate. Este posibil să găsiți AI care să se antreneze pe ele și să creeze o religie sintetică a lumii, dacă vreți?

Qiufan Chen (10:50):

Cu siguranță ar putea, și ar putea face o treabă mai bună decât oricare dintre preoți, oricare dintre călugări, oricare dintre guru din lume, pentru că este atât de informat. Dar, ca un practicant al taoismului, există ceva dincolo de înțelegerea sintetică a tuturor acestor lucruri, numiți-o experiență religioasă sau spirituală, este ceva în corp. Deci, trebuie să faci toate aceste teme fizice. Deci, cred că acesta este ceva de care încă lipsește AI. Nu avea corp, nu avea sistemul senzorial complex, nu avea conștiință de sine, de exemplu. Și, cred că toate aceste părți sunt ceea ce face un om, uman. AI în viitor, poate că ar putea fi folosită pentru a ne ajuta să ne reflectăm ca o oglindă, pentru a ne face să devenim o ființă umană mai bună.

Paul Shrivastava (11:49):

În imaginația ta, AI poate avea suflet?

Qiufan Chen (11:54):

Apariția conștiinței este practic un mister în știință chiar acum. Așadar, mi se pare că există cu siguranță o legătură între capacitatea de apariție a modelului de limbaj mare și toate aceste fenomene de apariție în sistemele de complexitate clasice sau cuantice ale fizicii cuantice. Așa că cred că matematic, poate într-o zi vom putea dovedi existența conștiinței. Dar nu este zero sau un statut, ci este ca spectrul continuu al statutului. Deci asta înseamnă că poate chiar și o stâncă, chiar un copac, chiar și râul sau muntele au un anumit nivel de conștiință, dar pur și simplu nu l-am recunoscut pentru că suntem atât de centrați pe om. Dar totul ține de calcul. Totul ține de compresia spațiu-timp. Totul ține de conservarea informațiilor. Deci totul este despre reducerea entropiei. Deci nu este o întrebare de epistemologie, dar cred că este o întrebare ontologică. Deci este vorba de existență.

Paul Shrivastava (13:14):

Vă mulțumim că ați ascultat acest podcast de la Centrul pentru viitorul științei al Consiliului Internațional de Știință, realizat în parteneriat cu Centrul Arthur C. Clarke pentru Imaginația Umană din UC San Diego. Vizitați futures.council.science pentru a descoperi mai multe lucrări ale Centrului pentru Viitorii Științei. Se concentrează pe tendințele emergente în știință și sistemele de cercetare și oferă opțiuni și instrumente pentru a lua decizii mai bine informate.

Paul Shrivastava, profesor de management și organizații la Universitatea de Stat din Pennsylvania, a găzduit seria de podcast. El este specializat în implementarea Obiectivelor de Dezvoltare Durabilă. Podcastul este realizat și în colaborare cu Centrul Arthur C. Clarke pentru Imaginația Umană de la Universitatea din California, San Diego.

Proiectul a fost supravegheat de Mathieu Denis si purtat de Dong Liu, de la Centrul pentru viitorul științei, think tank-ul ISC.

fotografie din KOMMERS on Unsplash.

Declinare a responsabilităţii
Informațiile, opiniile și recomandările prezentate în acest articol sunt cele ale contributorilor individuali și nu reflectă neapărat valorile și convingerile Consiliului Internațional de Știință.