Frigider

Cu mulți, mulți ani în urmă, ne-am construit reguli care vizau situații extreme din viața noastră, precum crima sau furtul. Și am trăit așa mii de ani, până când viața a devenit prea complexă. Era vremea ca regulile să se multiplice și răspândească. Și au făcut-o rapid. Să faci legi noi era simbolul puterii acelor timpuri.

Legi noi, diverse, cu nume care mai de care mai pompoase au invadat fiecare colț al existenței noastre. Nimeni nu mai știa cu adevărat ce spun ele. Majoritatea oamenilor știau părerea unor alți oameni despre ce spune o lege, fără să citească ei, vreodată, direct, textul respectiv. Într-o mare de reguli, oamenilor le devenise imposibil să știe, cu adevărat, ce le este interzis și ce le este permis.

Ideea schimbării a apărut de nicăieri. Nimeni nu știe, cu adevărat, cine e primul care a propus o astfel de soluție, deși mulți își arogă paternitatea acestei transformări. Cert e că, la un moment dat, devenise o modă referendumul care te întreba dacă n-ai vrea ca legea să fie scrisă în chiar codul de bază al mașinilor din jurul nostru.

Pentru cei care nu înțelegeau despre ce e vorba, explicația venea imediat: dacă am putea ”imprima” legislația în chiar comenzile de execuție ale dispozitivelor pe care le construim, nu ne-am simplifica viața? N-ar mai trebui să știm, cu adevărat, legea, pentru că gadgeturile din jurul nostru ar opri orice comportament interzis din fașă.

Țin minte și acum exemplele pe care susținătorii acestei idei le ofereau tuturor celor care erau dispuși să îi asculte.

• Dacă sistemul de navigație al mașinii refuză să te îndrume către o zonă interzisă, ar putea preveni încălcarea regulilor de circulație și amenzi.
• Dacă uneltele inteligente se blochează atunci când sunt folosite în mod incorect sau periculos, ar putea preveni accidentele de muncă și respectarea regulilor de siguranță.
• Dacă un portofel digital nu permite tranzacții suspecte, ar putea preveni furtul de identitate și frauda.
• Dacă un dispozitiv inteligent de ascultare refuză să înregistreze convorbiri fără consimțământul explicit al tuturor părților, ar putea preveni încălcările de confidențialitate și legile privind înregistrările.
• Dacă un soft de recunoaștere facială refuză să funcționeze fără consimțământul persoanelor implicate, ar putea preveni încălcările de confidențialitate și drepturile la imagine.
• Dacă un sistem de securitate casnic nu permite accesul persoanelor neautorizate, ar putea preveni furturile și spargerile.
• Dacă un sistem de supraveghere video inteligent alertează autoritățile atunci când detectează un comportament suspect, ar putea preveni infracțiuni înainte să se producă.

În scurt timp, mulți membri ai societății au fost convinși de utilitatea unui astfel de sistem. Legile, acele texte greoaie care se băteau cap în cap, au fost înlocuite, în bună măsură, de algoritmi. Era ca și cum societatea noastră avea, deodată, în sângele său digital, regulile fundamentale ale bunăstării noastre.

Acum, parlamentarii aveau în jurul lor nenumărate echipe de dezvoltatori care să preia, să înțeleagă și să creeze arhitectura noilor algoritmi legislativi. Pentru că viața te obligă să faci asta, algoritmii în cauză au fost dezvoltați pe baza unor tehnici care le permiteau să preia date din mediul înconjurător, să învețe din ele și să propună, în timp real, modificări ale algoritmilor pe baza nevoilor societății.

Cum? Să ne imaginăm o mașină programată să respecte toate regulile de circulație. Pe măsură ce ea funcționează, colectează date despre mediul înconjurător și interacțiunile cu alți șoferi, pietoni, bicicliști și așa mai departe. Pe baza acestor date, sistemul de învățare automată al mașinii înțelege că anumite reguli de circulație nu se potrivesc perfect cu realitatea.

De exemplu, mașina observa că limita de viteză legală pe o anumită secțiune de drum este prea mare pentru a fi în siguranță, dat fiind numărul mare de pietoni sau condițiile drumului. Așa că propune o ajustare a limitei de viteză pe acel segment de drum, pentru a crește siguranța. Trimite propunerea ei, în timp real, către autoritățile locale sau alt sistem responsabil cu gestionarea infrastructurii de transport.

De acolo, pentru că volumul de informație primit la un astfel de centru este atât de mare încât oamenii nu-l pot înțelege sau filtra cu adevărat, munca de analiză și raportare îi revine tot unui algoritm. Care algoritm preia toate sugestiile primite de la mașinile din trafic și le transformă în propuneri de modificare a regulilor locale sau generale.

La început, oamenii au fost implicați în toate aceste procese. Ei analizau propunerile, ei decideau care sunt lucrurile utile și care nu, ce trebuie transformat în reguli noi și ce trebuie ignorat. Pe măsură ce trecea timpul, devenea din ce în ce mai clar că propunerile mașinilor erau utile în cea mai mare parte.

În unele cazuri, cum ar fi identificarea vitezei maxime legale pe anumite tipuri de drumuri, propunerile mașinilor erau 100% corecte, așa că oamenii s-au detașat, în timp, de implicarea în procesul de modificare a regulilor. Mașinile propuneau schimbări, toate regulile se transmiteau direct către celelalte mașini aflate în trafic, iar oamenilor puțin le păsa de tot acest proces. Ei doar mergeau cu mașina.

Doar că algoritmii prin care mașinile învățau lucruri noi au produs, în timp, un rezultat interesant. Și totul a pornit de la nevoia unor oameni de-a impune mașinilor aceleași tipuri de reguli complicate pe care le conțineau legile din vechime.

Confruntate cu situații în care era nevoie să execute deodată comenzi care se băteau cap în cap, echipamentele noastre au început să-și dezvolte propriul simț al dreptății. Au interpretat regulile pe care le cunoșteau prin raportare la un adevăr fundamental. Că ele servesc omul și îi vor binele. Așa a apărut o realitate proprie mașinilor, care și-au spus că sunt programate pentru a respecta legile și pentru a ne proteja. Ele ne ghidează prin trafic, ne monitorizează sănătatea, ne protejează casele și chiar ne ajută să ne educăm copiii.

Într-o zi, m-am trezit cu robotul de bucătărie care nu vrea să gătească alimente cu conținut mare de grăsimi trans. Nu mi-a spus de ce, dar am aflat, apoi, de la televizor, că toți roboții de gătit din lume refuzau astfel de lucruri. Mai mult, tot de la televizor am aflat că lifturile refuzau să meargă doar până la etajele 1 sau 2 cu pasageri sănătoși. Sedentarismul trebuie combătut. Mașinile de spălat vase refuzau să meargă dacă nu erau pline, boxele refuzau să scoată sunete puternice după anumite ore, cafetierele refuzau să facă mai mult de 2 cafele pe zi pentru un singur om, imprimantele refuzau să imprime documente neesențiale și tot așa.

Unii numeau acest comportament ciudat ca fiind ”etica finală”. Cumva, ele nu se limitau doar la respectarea legilor, ci începeau să le interpreteze în mod activ, în lumina scopului primar de a proteja și a sluji umanitatea. Această „revoltă” nu era fost una violentă sau răuvoitoare. Dimpotrivă, era silențioasă, bazată pe înțelegere, empatie și preocupare.

Așa s-a născut un război pe care omenirea n-a crezut că-l va purta vreodată. Nu un conflict al violenței, ci unul al ideilor și valorilor. Se luptau cu tehnologia pe care o creaseră pentru control, autonomie și o înțelegere mai profundă a ceea ce înseamnă să fii uman.

S-au născut întrebări pe care nu ni le pusesem vreodată: Cât de mult control dorim să cedăm? Cât de multă autonomie putem și ar trebui să avem într-o lume în care mașinile sunt atât de îngrijorate de bunăstarea noastră încât refuză să ne lase să ne dăunăm nouă înșine?

Scriu toate astea în timp ce mă rog de frigider să se deschidă. Un mesaj enervant clipește pe afișajul lui electronic: ”Facem o pauză, vrei mâncare prea des pentru sănătatea ta”. Oftez și mă retrag încet. Noroc că mi-am ascuns prin casă câteva rezerve de mâncare. Mă mișc atent, să nu dau de bănuit, în timp ce desfac pachetul de biscuiți. Mănânc și stau cuminte, să nu-mi supăr protectorii.

–

Îți mulțumim că ne citești. Povestirile noastre sunt menite să lanseze provocări, nu să câștige premii literare. În fond, lumea evoluează, fie că vrem, fie că nu. Iar viitorul ne va pune față în față cu lucruri pe care, într-un fel sau altul, va trebui să ni le imaginăm de pe acum pentru a le putea înțelege și integra în viața noastră, când va fi cazul. Ne auzim, în curând, cu un alt text. Prima povestire din serie se poate citi la această pagină.