Prima lege a roboticii a scriitorului de science-fiction Isaac Asimov este: un robot nu poate să facă nimic rău unui om sau, prin neintervenție, să lase ca ceva rău să i se întâmple. Următoarele două legi sunt că roboții trebuie să se supună ordinelor ființelor umane și să nu își facă rău lor înșiși, în măsura în care aceste două acțiuni nu intră în contradicție cu prima lege. Mai târziu, acesta mai introduce o lege (zero) care spune că un robot nu poate face rău umanității sau, prin neintervenție, să lase să i se întâmple ceva rău.

Am aflat de curând că într-o poveste de scriitorul bulgar Lyuben Dilov apare și a patra lege posibilă: un robot trebuie să își cunoască identitatea de robot în toate cazurile (pentru că, dacă nu știe că este robot, poate încălca toate regulile de mai sus). Există și o serie de discuții etice pe tema asta. De exemplu, o situație ipotetică în care o mașină poate salva multe vieți deodată va fi, din când în când, pusă în situația limită de a alege pe cine să salveze sau să salveze pe cei mulți în detrimentul celor puțini (clasica problemă etică a „trenului”, despre care puteți citi la Centrul de Etică Aplicată). În articolul despre situația ipotetică a mașinii care salvează multe vieți de mai sus, se concluzionează că legile roboticii nu sunt funcționale și face apel la empatia umană.
O altă opinie și mai îndrăzneață este că Asimov nu s-a gândit că nici noi, oamenii, nu știm exact care sunt limitele eticii și că aceste legi nu se pot susține în primul rând pentru că nici noi nu avem o înțelegere clară asupra a ce înseamnă toate astea: adică un robot ar trebui să înțeleagă bine legile, dar pentru asta ar trebui să știm noi foarte bine ce e în spatele acestor legi (ceea ce nu știm), deci legile roboticii devin iar nefuncționale.
Toate astea mi se par fenomenal de interesante —fiind o amatoare de science-fiction și de etică, dar nefiind atât de ancorată în discuții și literatura de specialitate cum, sunt sigură, sunt mulți alții pe lângă mine, rămân totuși impresionată și fascinată de astfel de discuții. E ceva la care m-am gândit de multe ori în trecut și e probabil obiectul reflecției, măcar distractive, pentru mulți dintre noi azi, având în vedere că avem așa repede acces la Chat GPT și îl putem întreba cine suntem. De exemplu, îl putem întreba ce crede despre poezia mea din 2020: „androizi sentimentali” din nimic nu e în neregulă cu mine (care se termină cu open AI/generated poetry). Toate astea sunt nespus de distractive. Fie că vorbim despre discuții online sau dialoguri pseudo-intelectuale la o bere cu prietenii, ne întoarcem la discuția despre inteligența artificială. Întrebarea suspendată pe care mi-a plăcut întotdeauna s-o pun în astfel de discuții, enervând-mi probabil interlocutorii, este: sigur că toate astea sunt posibile, dar vrem noi cu adevărat asta? E deja evident de mult timp că ce reiese din discuția despre ce poate face inteligența artificială este dacă noi vrem asta cu adevărat și care sunt implicațiile etice adevărate ale situației.
O lume mai bună. Iluzia
În anime-ul Naruto (Shippuuden), acești shinobi super-puternici, Obito Uchiha și Madara Uchiha, cu niște abilități (jutsu) foarte elaborate (Sharingan și Rinnegan, pe scurt: au niște ochi super-speciali cu niște puteri cam înfiorătoare) decid să facă genjutsu-ul suprem: Infinite Tsukuyomi. Pe scurt, prin intermediul lunii, să distrugă lumea adevărată și să creeze o iluzie, o lume iluzie în care să nu mai existe suferință și nici război și nici nimic rău. De ce e ăsta un plan malefic? În fond, viața ar fi mai bună. Sigur, nu ar mai exista persoanele așa cum se știu, dar nu ar fi o lume mai bună? Obito îl promite lui Naruto, personajul principal care se luptă împotriva acestui „genjutsu malefic”, că odată ce va reuși să provoace Infinite Tsukuyomi asupra lumii, o să-i îndeplinească visul și versiunea lui de Naruto din lumea perfectă, fără durere și răutate, va deveni Hokage (un conducător al națiunii/satului său —e „motivul” pentru întreaga construcție și evoluție a personajului). În astfel de dileme, te oprești pentru că nu știi ce să zici. Sigur că realitatea e mai bună decât iluzia. Dar dacă nu știi că e o iluzie și crezi că e realitate?
Ne întoarcem la dilema pe care Descartes o împacă cu dumnezeu (că nu poate exista un dumnezeu malefic, astfel încât realitatea aceasta nu poate fi un vis, ci evident o realitate, nu o iluzie). De unde știm noi că lumea în care suntem nu e deja o iluzie? Poate din cauza suferinței? Și de ce ar fi așa de rău să trăiești o iluzie, neștiind că e iluzie, dacă lumea ar fi mai bună? Nu ar mai fi război. Nu ar mai fi foamete. Nu ar mai fi nimic rău. Încearcă să-ți imaginezi asta! Nu ar fi fantastic? Ne e teamă și probabil că ni se face pielea de găină când ne gândim că viața noastră s-ar putea transforma în iluzie. Poate am avea un pic de paralizie în gândire/decizie. Știm că nu e ok chestia asta, nu are cum să fie, oricât de ciudat și ademenitor ar părea, e rău — și aici putem avea diverse răspunsuri mai mult sau mai puțin disperate. De exemplu, că e importantă identitatea, că suferința noastră ne conturează, că faptul că noi ne dăm seama că vrem realitatea și nu iluzia demonstrează că avem „voință liberă”! Și că lupta asta merită, cu siguranță, datorită faptului că nu suntem păpuși sau mașinării, viețile noastre cele adevărate contează.
Cine suntem și care e scopul nostru?
Sunt probabil mult mai multe exemple de „lumi alternative” și iluzii. Un serial la care mă uitam eu în copilărie îmbina realitatea „reală” cu cea dintr-o carte de benzi desenate, realitățile se alternau și totul era destul de înfricoșător. Avem exemple și la Marvel, cu cei mulți Spidermani care apar din „universuri paralele”. De fapt, e o discuție mult mai elaborată în filosofie pe tema asta, dar ce cred că leagă perspectiva inteligenței artificiale și chestia asta cu iluzia versus realitate e că acum ne apropiem foarte tare, în mod real, de a înțelege problema și de a o privi în ochi. De exemplu, în discuția despre dacă este sau nu intruziv AI-ul în munca, literatura, arta pe care le facem.
Librăriile Cărturești chiar fac o serie de evenimente pe tema „cititori din viitor” și panel-uri despre AI, ceea ce e foarte fain și actual. Discuțiile pe tema asta nu sunt neapărat noi, dar probabil că acum ne ating mai mult de când putem intra repede pe web și să întrebăm cine suntem, să ne fie scrisă o poezie sau, cine știe, chiar un roman. Și ne face să ne întrebăm: ce o să se întâmple cu literatura pe care o scriem? Nu e mai bine să scrie un robot poezii dacă le scrie mai bine? Care e până la urmă scopul literaturii? Vrem să ajungă la cât mai mulți, să fie story-telling bun, să atingă inimile oamenilor? Dacă citești o poveste super înduioșătoare cu care relaționezi extrem de mult și nu știi că a fost scrisă de un AI, atunci cum te face asta să te simți? Nu e totuși un lucru bun că există povestea aia? Contează atât de mult că a scris-o un AI? Sau, alternativ, nu e mai bine să nu existe muncă fizică, să nu existe, de exemplu, doamne sau domni care vând la supermarket? Nu e mai bine să existe mașinării sau pur și simplu doar self check-out? La ce e bună munca asta unde scanezi produse și stai în picioare toată ziua? Nu ar fi mai bine ca munca oamenilor să se mute într-un orizont diferit, mai „deștept”, mai „productiv”, mai… meaningful? Cum putem răspunde la întrebările astea? Probabil că mulți dintre noi se gândesc la asta azi — suntem pregătiți să intrăm în inima lucrurilor și să ne întrebăm din nou cu o urgență similară anticilor, cine suntem și care e scopul nostru pe lumea asta?

Cum e mai bine?
Mai departe de întrebările filosofice (în sfârșit putem întrevedea un viitor strălucit pentru Etică, va fi nemuritoare, poate singura care o să stea în picioare în „minunata lume nouă”), probabil că avem o mare responsabilitate în ceea ce privește toate astea — muncă, literatură, artă. Ca poetă, nu mi-ar plăcea prea mult ca munca mea să fie preluată de un AI. Chiar dacă poezia pe care o va scrie acel AI va fi mai bună. De fapt, nu aș vrea deloc să fiu păcălită și să trăiesc o iluzie — cum ar fi să citesc o poveste super înduioșătoare fără să știu că a fost scrisă de un AI. M-aș simți ca Naruto când e pus în fața unui Infinite Tsukuyomi. N-are niciun sens să fie Hokage dacă e o iluzie, dacă altcineva a făcut asta pentru el. N-are niciun sens pentru mine să citesc o poveste bună, dacă nu a scris-o un om. Probabil pentru că, și ca cititoare, și ca scriitoare, nu caut niciodată perfecțiunea și faptul că știu că ceva a ieșit din munca, creativitatea, gândirea cuiva uman, la fel ca mine, mă umple de compasiune, interes, pasiune.
Dar ce-ar fi dacă aș citi o carte scrisă de un AI despre experiențele sale de AI? Nu ar fi asta super-mișto? Și ar fi mult mai bine scrisă decât a unui om imperfect și care face atât de multe greșeli. Asta e o realitate oarecum mai îndepărtată — mai întâi, acest AI trebuie să aibă mai multe experiențe ca să poată scrie despre ele, o conștientizare de sine profundă, să survină multe modificări și o trecere în timp și „spațiu” considerabilă, poate cu interacțiuni mai mult decât minimale cu specia umană — dar discuția rămâne și dilema e suspendată.
Cum e mai bine să facem? Care e scopul lucrurilor pe care le facem? De ce e așa de greu să răspundem la o întrebare simplă? Doar e mai bine să facem noi, oamenii, toate lucrurile astea! Dar dacă, să vedem, încearcă să îți imaginezi o lume în care oamenii nu mai muncesc deloc — de fapt, au timp să facă doar ce vor ei, să se gândească, să învețe, să devină mai buni. Ce ar face oamenii ăștia toată ziua? S-ar distra? Cum ar funcționa viața lor? Cum ne putem gândi la asta fără să ni se pară înfricoșător? Nu suntem din nou elitiști atunci când presupunem că „noi” suntem cei mai importanți pentru că suntem pe treapta superioară a evoluției? Ce ne face mai buni decât un robot? Doar pentru că noi am creat inteligența artificială? Dar dacă o să devină auto-suficientă într-o zi, atunci ce? Suntem niște mici dumnezei? De ce suntem noi mai importanți decât ceilalți? Și cum putem avea încredere tocmai în specia umană când, din punct de vedere a problemelor ecologice, de mediu, privind drepturile animalelor, să nu mai spunem nimic de drepturile oamenilor (și mai ales ale minorităților), stăm atât de îngrijorător?
Care e argumentul suprem care să ne convingă că facem ceea ce trebuie, altul decât argumentul suprematist și că „știm noi mai bine”? Cum știm că e mai bine ca Ramona Boldizsar să scrie o poezie despre maternitate decât un AI care poate avea înțelegerea a tot ce s-a scris despre maternitate până în secunda asta și, probabil, va înțelege mai bine, va da ceva mai pertinent, ceva cu care să relaționeze mai bine mult mai mulți oameni? În fond, Ramona Boldizsar poate mai trăiește încă 30-40 de ani, dar un AI poate să fie veșnic și să învețe mereu lucruri noi. Ramona Boldizsar probabil că nu o să mai învețe așa multe îmbătrânind, o să aibă mai multe prejudecăți și o să fie, la un moment dat, o bătrână mai mult sau mai puțin venerabilă cu nimic interesant de spus.
Umanitatea drept creativitate
Răspunsurile pe care ni le dăm la nivel personal pot fi multiple. Pentru mine, scriind toate acestea, rămâne importantă identitatea — discuțiile acestea îmi alimentează și creativitatea și interesul pentru lume. Sunt curioasă să văd ce se poate face cu AI până când nu o să mai fiu. Mă înspăimântă capacitățile sale. Știu — motivând în moduri distincte, mai mult sau mai puțin generale sau convingătoare — că e mai bine ca eu să scriu toate astea decât un AI. Cred în păstrarea „umanității” noastre care la mine se traduce prin „creativitate” care a dus, în cele din urmă, și la apariția AI-ului.
Filosoful Thomas Kuhn vorbește în 1960 despre „schimbarea de paradigmă” (paradigm shift) și despre cum știința nu evoluează liniar, avem nevoie de revoluții științifice și de schimbări de paradigmă pentru a exista progres. Nu știu dacă legile pe care le propune Asimov în cărțile lui de science-fiction, deci ficțiune, pot fi pretabile în viața reală, în viitor sau acum, dar ce știu este că noi, oamenii, suntem foarte atașați de cine suntem și ceea ce suntem, chiar dacă în cea mai mare parte a timpului nu avem răspunsuri clare.
Această căutare identitară de multe ori ne dă sens (poate că de-asta numim lucruri cu atâta ușurință, inventăm, creăm, nu ne putem abține de la a spune ceva despre un lucru sau altul, punem lucruri ușor în categorii, judecăm aproape în mod natural). Poate că avem nevoie de o schimbare de paradigmă nu doar în ceea ce privește înțelegerea noastră asupra inteligenței artificiale, dar și a rolurilor noastre, sociale sau altfel, și să ne gândim cum ar putea arăta o societate umană „evoluată”.
Simplul fapt că putem face asta îmi oferă liniște —nu știu cine suntem și care e scopul nostru pe lumea asta, dacă nu suntem altceva decât „accidente evolutive”. Dar ce știu e că nu asta contează cel mai tare — ci ceea ce putem face de aici înainte, capacitatea de a judeca ceea ce am făcut „rău” în trecut, dorința de a deveni mai buni și însăși capacitatea de a viziona un viitor în care noi suntem altfel — sau chiar altceva. Aceasta nici nu poate fi o concluzie. Sunt sigură că acest exercițiu e cam înfricoșător, cum e tot ceea ce nu știm și nu înțelegem, dar asta nu îl face mai puțin fascinant și provocator.