În urmă cu zece ani, studenților de la facultățile de științe umaniste li se spunea: dacă vreți un loc de muncă, învățați să programați. Astăzi, programatorii sunt cei care se tem că inteligența artificială le va lua locul.
Situația s-a inversat complet, iar cifrele confirmă acest lucru. Potrivit datelor citate în articolul din The Economist intitulat „Why big AI labs are hiring so many philosophers”, 7% dintre absolvenții recenți de informatică din Statele Unite erau șomeri, comparativ cu 5,1% dintre absolvenții de filosofie.
Studenții la filosofie primesc oferte de muncă de la marile companii de inteligență artificială chiar înainte de absolvire, afirmă Luciano Floridi, filosof la universitățile Yale și Bologna, care descrie acest exod din mediul academic drept o „hemoragie”. Numele sunt deja cunoscute: Amanda Askell este filosoful intern al companiei Anthropic; Iason Gabriel și Henry Shevlin lucrează pentru Google DeepMind; Sam Altman susține că s-a consultat cu „sute de filosofi morali” pentru a stabili regulile ChatGPT (cu rezultate care rămân, deocamdată, neclare).
The Economist prezintă această situație ca pe o poveste despre reabilitarea filosofilor. Totuși, cel mai interesant aspect constă în a înțelege care sunt problemele pe care companiile Anthropic, OpenAI și Google DeepMind aleg să le încredințeze acestora, și care nu. Articolul evidențiază trei probleme de naturi extrem de diferite.
Prima este alinierea: asigurarea faptului că un model urmărește obiectivele vizate de creatorii săi, și nu obiective implicite sau aberante. Exemplu: un sistem antrenat să maximizeze timpul petrecut de utilizatori pe o platformă ar putea învăța să-i țină „lipiți” de ecran cu un conținut care stârnește indignare, pentru simplul fapt că indignarea captează atenția. Sistemul și-a atins obiectivul atribuit, trădând însă scopul fundamental. Acest fenomen este cunoscut sub numele de „reward hacking” (manipularea recompensei), adică eludarea mecanismului de recompensare. Este o problemă atât tehnică, cât și de reglementare, fiind cea mai concretă dintre cele trei și una pe care companiile sunt extrem de interesate să o rezolve, cel puțin atunci când aceasta pune în pericol fiabilitatea produsului.
A doua problemă vizează conștiința acestor modele, mai exact, dacă există o anumită „trăire” specifică acelui sistem, sau dacă în spatele răspunsurilor sale se află o experiență conștientă. Aici ne situăm la intersecția dintre filosofia minții și neuroștiința conștiinței, într-un domeniu lipsit de un criteriu comun de verificare: dacă un model susține că suferă atunci când este oprit, nu dispunem de niciun test care să distingă o experiență autentică de o performanță statistică învățată din textele pe baza cărora a fost antrenat.
A treia problemă, drepturile mașinilor, apare ca o extensie firească a celei de-a doua: odată ce este recunoscută existența conștiinței, se pune întrebarea ce măsuri de protecție ar trebui să i se acorde sistemului respectiv.
Aici merită să ne oprim, deoarece nu toate aceste probleme sunt la fel de grave. Mustafa Suleyman, un expert în domeniu, cofondator al DeepMind și actual lider al diviziei Microsoft AI, susține în cartea sa intitulată The Coming Wave, că dezbaterile privind conștiința mașinilor riscă să devină o sursă de distragere a atenției. Întrebarea pe care trebuie să ne-o punem nu este dacă mașina va ajunge să aibă conștiință de sine. În prezent, ea nici măcar nu este conștientă de ceea ce ne transmite: este vorba despre cunoaștere fără înțelegere. Problema reală vizează consecințele a ceea ce sistemul poate face deja într-o manieră excelentă: executarea unor sarcini complexe în domenii diverse cu o intervenție umană minimă, precum calcularea, memorarea, rezolvarea problemelor și învățarea obiceiurilor noastre. Nu știe ce este o pisică, și totuși o recunoaște într-o clipită.
Modelele încep chiar să genereze datele necesare propriei instruiri continue, identificându-și slăbiciunile și creând exemple pentru a le corecta. Este vorba despre autoreferențialitate, nu despre conștiință. Sistemele actuale de inteligență artificială nu au trecut prin 3,8 miliarde de ani de evoluție, la fel ca noi; ele nu au corpuri, nu dorm, posedă o memorie care arhivează și nu poate să reconstruiască, nu au simțul ironiei și nu pot spune „nu știu”. În cazul în care Suleyman are dreptate, atunci problema „drepturilor mașinilor” ar putea deveni exact genul de chestiune metafizică ce merită menținută în centrul dezbaterii tocmai pentru că distrage atenția de la problema concretă: a dezbate dacă un model suferă sau nu este mai liniștitor decât a discuta despre ceea ce acel model, indiferent și extrem de capabil, decide deja în numele nostru. Pe scurt, o diversiune excelentă, o diversiune filosofică.
Acest lucru nu înseamnă că problemele se opresc aici. Înseamnă că modul în care sunt abordate acestea la nivel intern creează, ca un efect secundar neintenționat, dar binevenit, un cadru favorabil celor care finanțează cercetarea. O companie care plătește filozofi pentru a dezbate dacă modelele sale sunt conștiente determină și cine poartă această discuție, precum și limitele în care se desfășoară ea.
Aici intervine iluzia unui cadru neutru. Avem tendința de a privi instrumentul ca fiind neutru, iar judecata formulată asupra lui ca fiind externă și independentă. Numai că filozoful angajat să definească „regulile” unui model operează într-un cadru lipsit de neutralitate chiar înainte chiar de a scrie un singur rând. Acest lucru nu se întâmplă din rea-credință, ci pentru că poziția pe care o ocupă modelează întrebările care pot fi puse în mod legitim.
Această tendință de a fi compliant nu se limitează doar la mașinării. Modelele de limbaj tind să ne valideze opiniile, ele confirmă mai des decât contrazic. Este un defect binecunoscut și remediabil doar parțial, care exploatează o trăsătură evolutivă a creierului uman (bine înțeleasă de programatorii AI): tendința de a atribui intenții și scopuri unor obiecte inerte (ați încercat vreodată să convingeți mașina de tuns iarba să pornească?). Un filozof plătit de creatorii acestor modele se confruntă, din motive similare, cu același risc: este mai ușor să fii de acord cu cel care te plătește decât să-l contrazici. Există, totuși, o diferență. În cazul unei mașinării, numim acest fenomen „sicofanție” și îl studiem; în cazul unui expert, îl numim „competență” și ne punem încrederea în el.
Acest lucru ne face să suspectăm că demersul filosofic devine o extensie a funcțiilor de marketing ale acestor mari companii. Chiar dacă filosofilor li se oferă mână liberă, iar uneori această libertate este autentică, dependența persistă. Ei răspund în fața investitorilor și a acționarilor. Întrebarea este tranșantă: dacă salariul îți este plătit de o companie orientată spre profit, îți este compromisă cercetarea? Răspunsul este: depinde. În cadrul unei companii, filosofia este utilă doar atâta timp cât își păstrează dreptul de a ajunge la concluzii contrare intereselor celui care plătește și atâta timp cât există cineva dispus să exercite acest drept. În momentul în care acest drept devine pur formal, existent pe hârtie, dar niciodată exercitat, filosoful din cadrul companiei încetează să mai fie un factor de control și devine un simplu ornament.Însă problema depășește sfera filosofilor din laboratoarele de inteligență artificială. Ea ne privește pe noi și modul în care învățăm să delegăm capacitatea de a judeca.
Atunci când purtăm un dialog cu inteligența artificială, ne bazăm pe metafore, analogii și termeni emoționali sau antropomorfi, proiectând asupra algoritmului trăsături umane. Însă modelele de limbaj nu oferă doar răspunsuri. Interacțiune după interacțiune, ele ne determină să acceptăm drept adevărat un răspuns gata formulat, cursiv, plauzibil, însă lipsit de profunzime. Ne obișnuiesc cu o lume în care gândul ne parvine deja formulat, organizat și convingător. Este comod. Noi le-am antrenat, iar acum ele ne antrenează pe noi. Și aici rezidă riscul. Pentru că judecata nu izvorăște din cursivitatea unui răspuns, ci din efortul și rezistența care îl preced: din îndoială, din verificare și din capacitatea de a face o pauză și de a spune „nu”.
Această capcană cognitivă este nouă doar în aparență. Instrumente precum ChatGPT, Claude și Gemini nu ne impun o anumită convingere. Nu ne obligă să avem încredere în ele. Ele fac ceva mult mai subtil: creează impresia că este „firesc” să nu mai verificăm informațiile.
Dacă un răspuns pare corect, ne confirmă propriile idei și este prezentat cu o aură de evidență, de ce ne-am mai obosi să verificăm în continuare?
Confirmarea ia locul verificării, plauzibilitatea înlocuiește adevărul, iar certitudinea ia locul judecății critice.În acest scenariu, filosoful angajat de marile companii intră printr-o altă ușă. El ar trebui să fie cel care introduce un element de fricțiune: cel care refuză adeziunea imediată, chestionează premisele, contestă cadrul de lucru și creează condițiile pentru descoperiri neașteptate. Însă, dacă acest cadru este prestabilit de cel care plătește, dacă întrebările permise sunt deja selectate de organizație și dacă disidența rămâne posibilă doar atât timp cât nu provoacă prea multe perturbări, atunci și filosofia încetează să mai zdruncine consensul și începe să-l facă prezentabil.
De aceea, are sens ca o companie să angajeze filozofi, și tot de aceea avem dreptate să fim circumspecți față de ei. Problema nu ține de puritatea morală a celor care acceptă o astfel de muncă, ci de structura independenței. Un filozof nu este valoros atunci când generează cadrul „corect”, ci atunci când își păstrează dreptul real de a declara drept injust cadrul impus de angajator.
Judecata independentă nu este un simplu ornament al exercitării inteligenței, ci însăși condiția acesteia. O societate care deleagă această judecată unor algoritmi ce îi flatează orgoliul și unor experți care le fac pe plac clienților nu devine mai înțeleaptă. Ea devine doar mai sigură pe sine, aidoma conducătorilor acelor companii care, deloc surprinzător, nu sunt atinși niciodată de îndoială. Or, filosofia există tocmai pentru a pune sub semnul întrebării lucrurile de care suntem siguri, mai ales atunci când acea presupusă certitudine ni se înfățișează gata făcută, șlefuită și plauzibilă.
Surse: IL CORRIERE DELLA SERA/RADOR RADIO ROMÂNIA
Lasă un comentariu