Constiinta Artificiala

 De cand a aparut ChatGPT, urmat de alte sisteme de inteligenta artificiala, am observat o gramada de discutii despre AI in general dar si despre ceva mult mai tulburator: daca inteligenta artificiala "gandeste" sau "simte" sau va ajunge in curand sa aiba aceste proprietati. Daca am pune ChatGPT intr-un corp fizic care are senzori pe suprafata, de exemplu, si l-am programa de asa natura incat sa spuna "au, ma doare!" atunci cand il lovesti cu o forta peste un anumit prag, ar fi asta o dovada ca intr-adevar il doare? Si ca trebuie sa ii dam drepturi, sa-l protejam, sa avem grija sa nu-l scoatem din priza daca nu "isi doreste asta"?

Desigur, toate aceste lucruri sunt cat se poate de ridicole, si despre asta voi vorbi in acest articol, dar si despre cum cred eu ca ar trebui sa facem pentru a crea ceva artificial care chiar sa aiba experiente constiente si cum am putea descoperi sisteme non-biologice care sa fie mai mult decat simple sisteme fizice.

Nota: Cadrul metafizic pe care il voi folosi va fi cel idealist: constiinta este fundamentala, este singurul lucru care exista. Atunci cand folosesc termenul "fizic", ceea ce spun de fapt este "care apare drept fizic atunci cand cineva masoara acel sistem si il reprezinta in propria minte". Cu alte cuvinte, nu exista o lume fizica, ontologic vorbind. Exista strict ca reprezentare in mintea cuiva, iar mintea cuiva exista ca disociere de mintea universala, care este tot ceea ce exista.

(1) Sa ne imaginam un tocilar care invata pe de rost lectia la limba romana. Elevul nici macar nu este din Romania si nu vorbeste limba romana, dar a invatat foarte bine sa pronunte cuvintele relevante pentru lectia la limba romana. Scos la tabla si rugat sa spuna lectia, acesta pronunta cuvintele perfect, in ordinea corecta, si pare sa stie perfect ce spune. Evident insa ca elevul habar nu are ce spune pentru ca nici macar nu stie limba romana si ce inseamna respectivele cuvinte - el doar repeta ce a invatat, adica ordinea cuvintelor si felul in care ele se pronunta. Exact acelasi lucru se aplica si pentru sistemele AI Large Language Models (LLM) cum sunt ChatGPT si alti chat bots. Ele sunt programate sa produca, atunci cand primesc inputuri de un anumit tip, outputurile pe care noi observatorii constienti le asteptam pentru acele inputuri, similar cum tocilarul este "programat" sa spuna ceea ce se asteapta profesorul sa spuna, chit ca el habar nu are ce spune. 

(2) LLMs nu au un model al realitatii - ele sunt antrenate pe tokens, pe probabilitatea statistica a unor tokens (sau cuvinte, sau propozitii, depinde de model) sa apara unele langa altele. Asta e tot ce se intampla. Este doar o serie de computatii, fara nicio legatura concreta cu lumea reala. Sigur, ele sunt construite, modelate pe texte din lumea reala, enuntate de oameni care (se presupune) stiu ce spun, dar LLMs nu stiu absolut nimic. LLMs nu au niciun fel de intelegere a nimic din ce se intampla, sunt doar o serie de pasi care produc un anumit rezultat.

(3) Sistemele AI curente fac niste computatii pe care noi le interpretam in functie de nevoile noastre si de cum am programat acel sistem. Sistemul in sine nu stie nimic pentru ca informatia se afla in mintea noastra, nu in sistem, si in modul nostru de interpretare a ei. Aceeasi computatie poate fi in principiu construita prin dominouri care cad, apa prin conducte care circula, simboluri scrise pe nisip si in orice alt mod. Ar fi complet irational sa credem ca un sistem facut in oricare dintre aceste feluri brusc devine constient doar pentru ca alegem noi sa interpretam rezultatul acelor secvente de evenimente pe baza unor conventii pe care tot noi le-am stabilit. Cu alte cuvinte, o computatie care pentru mine reprezinta ceva important pentru altcineva poate reprezenta zero informatie.

(4) Chiar si daca am simula un creier uman intr-un calculator nu am avea nimic constient, pentru ca simularea nu inseamna duplicare. Doar pentru ca eu simulez o gaura neagra la mine in laptop nu inseamna ca brusc incepe sa traga inauntru planeta Pamant sau, cum zice cineva, doar pentru ca simulez functia renala in laptop nu inseamna ca brusc laptopul incepe sa urineze la mine pe birou. Tot asa, doar pentru ca fac un manechin care fizic arata ca un om nu inseamna ca trebuie sa dau drepturi umane manechinului, pentru ca seamana cu oamenii. Daca eu inregistrez un fisier audio in care spun "au, ma doare!" si programez un LLM pe care il integrez intr-un manechin care are senzori sa execute acest fisier audio de fiecare data cand il lovesti nu inseamna ca brusc manechinul simte durere - nu avem niciun motiv sa asignam vreo fenomenologie unor evenimente complet deconectate si impotente ontologic.

(5) Calculatoarele de fapt nici macar nu exista - sunt parte din realitatea non-disociata, care este unitara. Sunt doar un subset pe care noi il alegem, din realitate, arbitrar, astfel incat sa ne indeplinim scopurile cu acel subset din realitate. Nu exista "calculatoare" sau obiecte in general altfel decat nominal si faptul ca alegem sa combinam o serie de elemente si componente intr-un singur cuvant pentru ca gasim asta util este la alegerea noastra. Calcultoarele sunt facute din parte si asamblate, nu sunt ceva unitar.

(6) Fiintele umane nu sunt facute din parti, precum calculatoarele. Noi nu suntem asamblati din parti facute in diferite locuri si aduse impreuna. Suntem aceeasi celula fecundata care a crescut in complexitate, divizandu-se. Cu alte cuvinte, suntem o fiinta unitara, in ciuda faptului ca aparem ca fiind "facuti din celule". Fiecare celula din corpul nostru are acelasi ADN, acelasi set de instructiuni, roughly speaking, si este parte a aceluiasi intreg.

(7) Ce ar trebui sa facem pentru a produce o fiinta artificiala care chiar sa aiba o stare interna, sa existe un mod de a fi acea fiinta? Speculatia mea este ca ar trebui ca respectiva entitate sa aiba o structura similara cu creierul uman si ea sa creasca in complexitate de la ceva simplu, pentru a-si mentine unitaritatea. Desigur, nimeni nu stie exact. De exemplu, nu stim exact ce anume duce la unitaritatea observata - o posibilitate este ceea ce se cheama "bioelectric fields", prin care campuri electrice date de celule biologice determina proprietati de morfogeneza - felul in care acel corp se dezvolta fizic.

(8) Lumea fizica pe care noi o observam nu este ceea ce chiar este. Fizica clasica este o reprezentare care reduce realitatea intr-un mod substantial. De exemplu, un QBit (Quantum Bit) are, in principiu, o infinitate de potentiale stari, intre 0 si 1. Insa atunci cand il masori il poti observa ori ca 0, ori ca 1. Dar nu ar trebui sa confunzi ceea ce poti tu observa despre el cu ceea ce chiar este. Doar pentru ca tu poti observa 0 sau 1 nu inseamna ca acel QBit chiar este doar 0 sau doar 1 - impotenta ta observationala nu reduce QBitul la 0 sau 1. Cu alte cuvinte, este problema ta ca doar atat poti tu observa despre el. Tot asa, doar pentru ca noi observam un creier clasic atunci cand observam mintea cuiva nu inseamna ca acea minte brusc este redusa, ontologic, la observatia noastra. Si, deci, nu ar trebui sa ne mire ca lipsesc detalii din acea reprezentare si ca ceea ce noi observam fizic nu este intreaga poveste - nici nu ar putea fi, o observatie 1-la-1 ar necesita o infinitate de informatie, ceea ce nu este posibil. Important este sa nu confundam lumea fizica ce este reprezentata in mintea noastra cu ceea ce chiar exista si care nu este redus la reprezentarile noastre.

Concluzie: Nu exista niciun fel de experienta constienta (in sensul de meta-constiinta, de ceva self-aware) in sistemele AI din prezent si nici nu va exista cat timp ele sunt niste computatii si simulari. Informatia acestor computatii si simulari este la noi, observatorii constienti. In mintea noastra acele computatii au sens, pe baza unor conventii pe care le stabilim atunci cand construim acel sistem. AI nu este altceva decat o unealta, in acest moment. 

PS. Cum am putea descoperi un sistem care este "viu" si potential self-aware? Parerea mea este ca ar trebui sa aiba o proprietate elementara: sa isi mentina o entropie scazuta pentru un timp "neobisnuit" de lung - ceva ce in mod uzual nu te-ai astepta de la un sistem fizic intamplator. Un astfel de sistem poate fi luat in serios ca ceva ce ar trebui sa fie investigat, dar ar trebui sa fie un sistem fizic cu proprietati unitare, care a evoluat sa fie in acel fel.