Bunul Samaritean, Tesla și algoritmii

Mihai CAPŞA-TOGAN

În vremea când împărăteasa Irina a inițiat organizarea Sinodului VII ecumenic, în anul 787, sub coordonarea Sf. Tarasie Mărturisitorul, în școala islamică din Bagdad, savantul, scriitorul și matematicianul Muhammed ibn Musa Horezmi inventa algoritmii. În manualul său de aritmetică – „Algoritmi de numero Indorum”, păstrat astăzi la Cambridge, savantul definea un algoritm ca fiind o înșiruire logică de instrucțiuni care duce la un rezultat.

Astăzi, mulți dintre noi pot obiecta că algoritmii nu ar fi niciodată capabili să ia decizii importante în locul nostru, întrucât deciziile importante implică de regulă o dimensiune etică, iar algoritmii nu înțeleg etica. Cu toate acestea, nu avem motive să pornim de la premisa că algoritmii nu vor fi capabili să-l întreacă pe omul de rând chiar și la capitolul etică. În prezent, dispozitive precum smartphone-urile și vehiculele autonome iau decizii care până acum erau monopolul oamenilor și încep deja să se confrunte cu același gen de probleme etice care îi chinuie pe oameni de mii de ani.

De exemplu, să presupunem că doi copii care fug după o minge sar drept în fața unei mașini autonome. Cu ajutorul calculelor sale extrem de rapide, algoritmul care conduce mașina conchide că nu poate evita să-i lovească pe cei doi copii decât dacă virează pe contrasens, riscând o coliziune cu un camion care se apropie. Algoritmul calculează că în acest caz există un risc de 70% ca proprietarul mașinii – care doarme dus pe bancheta din spate – să fie ucis. Ne întrebăm așadar, ce ar trebui să facă algoritmul?

Diferitele răspunsuri venite din partea oamenilor de știință pentru această dispută au avut un impact rușinos de mic asupra comportamentului real, deoarece în momentele de criză oamenii uită deseori cu totul de vederile lor filosofice ori religioase și-și urmează în schimb emoțiile și instinctele.

Unul dintre cele mai neplăcute experimente din istoria științelor sociale, prezentat pe larg în cartea lui Yuval Noah Harari, „21 Lessons for the 21st Century” a fost efectuat, în decembrie 1970, pe un grup de studenți de la Seminarul Teologic Princeton, care se pregăteau să devină preoți în cadrul Bisericii Prezbiteriene. Fiecărui student i s-a cerut să meargă repede într-o sală îndepărtată, unde să țină o prelegere despre parabola Bunului Samaritean, care povestește cum un iudeu ce călătorea de la Ierusalim la Ierihon a fost prădat și bătut de tâlhari, care l-au lăsat apoi să moară la marginea drumului. După o vreme, au trecut pe acolo un preot și un levit, dar amândoi l-au ignorat pe bărbat. În schimb, un samaritean – membru al unei secte disprețuite de evrei – s-a oprit când a văzut victima, a îngrijit-o și i-a salvat viața. Morala parabolei este că meritul oamenilor ar trebui să fie judecat în funcție de comportamentul lor propriu-zis, și nu în funcție de afilierea lor religioasă.  Tinerii seminariști entuziaști au pornit în fugă spre sala de conferințe, gândindu-se pe drum cum să explice cel mai bine morala parabolei Bunului Samaritean. Dar organizatorii experimentului le-au adus în cale o persoană îmbrăcată ponosit, care stătea prăvălită pe un prag, cu capul plecat și ochii închiși. Majoritatea seminariștilor nu s-au oprit nici măcar ca să întrebe ce era în neregulă cu bărbatul, cu atât mai puțin să dea o mână de ajutor.

Emoțiile umane cântăresc mai greu decât teoriile filosofico-religioase în nenumărate situații. Asta face ca istoria etică și filosofică a lumii să fie o poveste destul de deprimantă, cu idealuri nemaipomenite și comportament nu tocmai ideal. Câți creștini întorc realmente și celălalt obraz, câți budiști chiar se ridică deasupra obsesiilor egoiste și câți evrei își iubesc aproapele ca pe ei înșiși? De vină e doar felul în care selecția naturală l-a modelat pe Homo sapiens, susține scriitorul israelit Harari. La fel ca toate mamiferele, Homo sapiens folosește emoțiile ca să ia rapid decizii vitale. Am moștenit furia, frica și dorința sexuală de la milioane de strămoși care au trecut cu toții cele mai riguroase teste de control al calității aplicate de selecția naturală.

Din nefericire, ceea ce era bun pentru supraviețuire și reproducere în savana africană cu un milion de ani în urmă nu conduce neapărat la un comportament responsabil pe autostrăzile secolului XXI. Șoferii neatenți, furioși și nerăbdători ucid anual peste un milion de oameni în accidente rutiere. Ne putem trimite toți filosofii, profeții și preoții să le dea acestor șoferi lecții de etică, dar pe șosea tot emoțiile de mamifer și instinctele de savană preiau controlul. Prin urmare, seminariștii grăbiți îi vor ignora pe oamenii care au nevoie de ajutor, iar șoferii ce trec printr-o criză îi vor călca pe nefericiții pietoni.

Această ruptură dintre seminar și șosea este una dintre cele mai mari probleme practice din etică. Immanuel Kant, John Stuart Mill și John Rawls pot să stea zile întregi într-o sală drăguță de curs și să dezbată probleme teoretice de etică, dar concluziile lor ar fi oare puse în practică de șoferii stresați atunci când se confruntă cu o urgență și trebuie să decidă într-o fracțiune de secundă? Poate că Michael Schumacher – campionul de Formula 1 considerat cel mai bun pilot din istorie – era capabil să se gândească la filosofie în timp ce se afla la volanul unui monopost; dar cei mai mulți dintre noi nu sunt Schumacher. Dacă programezi o mașină autonomă să se oprească și să-i ajute pe străinii aflați la ananghie, va proceda întocmai orice s-ar întâmpla. În mod similar, dacă mașina ta autonomă este programată să vireze pe contrasens ca să-i salveze pe cei doi copii din calea ei, poți fi sigur că exact asta va face. Ceea ce înseamnă că, atunci când își vor proiecta mașina autonomă, Toyota sau Tesla vor transforma o problemă teoretică din filosofia eticii într-o problemă practică de inginerie.

Am văzut, în ultimii 30 de ani, că dezvoltarea inteligenței artificiale i-ar putea scoate pe cei mai mulți oameni de pe piața muncii – inclusiv pe șoferi și pe agenții de circulație. Totuși, s-ar putea să existe noi posturi disponibile pentru filosofi, deoarece abilitățile lor – lipsite până acum de prea multă valoare comercială – vor ajunge brusc să fie la mare căutare. Prin urmare, dacă vrei să studiezi ceva care să-ți garanteze o slujbă bună în viitor, poate că filosofia nu este o alegere atât de proastă.

Desigur, filosofii se pun rareori de acord cu privire la modul corect de a acționa. Puține dispute filosofice, etice ori religioase au fost rezolvate spre mulțumirea tuturor filosofilor, iar gânditorii utilitariști ca John Stuart Mill (care judecă faptele în funcție de consecințe) au păreri cât se poate de diferite față de deontologii ca Immanuel Kant (care judecă faptele în funcție de reguli absolute). Ar fi Tesla nevoită să ia o poziție cu privire la asemenea chestiuni spinoase ca să producă o mașină?

Ei bine, poate că Tesla o va lăsa pur și simplu în seama pieței consumiste. Tesla va produce două modele ale mașinii autonome: Tesla Altruistă și Tesla Egoistă. Atunci când apare o urgență, Altruista își sacrifică proprietarul pentru binele mai mare, în vreme ce Egoista face tot ce îi stă în putință ca să-și salveze proprietarul, chiar dacă asta înseamnă să-i ucidă pe cei doi copii. Clienții vor putea astfel să cumpere mașina care corespunde în cea mai mare măsură viziunii lor filosofice favorite. Dacă mai mulți oameni vor cumpăra Tesla Egoistă, nu veți putea da vina pe Tesla pentru asta. La urma urmei, clientul are întotdeauna dreptate. Nu este o glumă! În cadrul unui studiu revoluționar din 2015, oamenilor li s-a prezentat un scenariu ipotetic cu o mașină autonomă care era pe cale să calce mulți pietoni. Majoritatea au spus că, într-un asemenea caz, mașina ar trebui să salveze pietonii, chiar cu prețul vieții proprietarului ei. Ulterior, când au fost întrebați dacă ar cumpăra o mașină programată să-și sacrifice proprietarul pentru binele mai mare, majoritatea au spus nu. Pentru ei înșiși, ar prefera Tesla Egoista.

Imaginați-vă următoarea situație: ați cumpărat o mașină nouă, dar, înainte de a putea începe să o folosiți, trebuie să deschideți meniul cu setările și să bifați una dintre mai multe căsuțe. În cazul unui accident, vreți ca mașina să vă sacrifice viața sau să ucidă familia din celălalt vehicul? Este aceasta o alegere pe care vreți măcar să o faceți? Gândiți-vă numai la certurile pe care le veți avea cu soțul/soția în legătură cu căsuța pe care o bifați.

Așadar, poate că statul ar trebui să intervină ca să reglementeze piața și să impună un cod etic obligatoriu pentru toate mașinile autonome? Unii legiuitori vor fi, fără îndoială, în al nouălea cer că au în sfârșit ocazia să facă legi care să fie întotdeauna respectate întocmai. Alți legislatori ar putea fi alarmați de o asemenea responsabilitate totalitară și fără precedent.

Preot Mihai CAPȘA -TOGAN