de Simon Johnson, Daron Acemoglu, Sylvia Barmack
CAMBRIDGE – De multă vreme scriitorii de ficțiune și-au imaginat scenarii în care fiecare acțiune umană este monitorizată de vreo malignă autoritate centralizată. Dar acum, în ciuda avertismentelor lor, ne trezim navigând spre un viitor distopic demn de (romanul) “1984” al lui George Orwell. Nevoia de a evalua cum să ne protejăm drepturile – de consumatori, de lucrători și de cetățeni – nu a fost niciodată mai urgentă.
O propunere sensibilă este limitarea brevetelor privind tehnologiile de supraveghere pentru a descuraja dezvoltarea și utilizarea excesivă a acestora. Toate celelalte fiind egale, acest lucru ar putea îndrepta dezvoltarea tehnologiilor legate de inteligența artificială (IA) departe de aplicațiile de supraveghere – cel puțin în Statele Unite și în alte economii avansate, unde protecția prin brevete contează și unde investitorii de risc vor fi reticenți să susțină companiile lipsite de drepturi de proprietate intelectuală. Dar chiar dacă se vor adopta astfel de măsuri sensibile, lumea va rămâne împărțită între țările cu garanții eficiente de supraveghere și cele fără acestea. Prin urmare, trebuie să luăm în considerare și baza legitimă a comerțului dintre aceste blocuri emergente.
Capacitățile IA au crescut în ultimele 18 luni, iar ritmul dezvoltării ulterioare este puțin probabil să încetinească. Lansarea publică a ChatGPT în noiembrie 2022 a fost “lovitura” IA generativă cu impact în întreaga lume. Dar la fel de importantă a fost și creșterea la fel de rapidă a capacităților de supraveghere ale guvernelor și corporațiilor. Deoarece IA generativă excelează la potrivirea modelelor, a făcut recunoașterea facială remarcabil de precisă (deși nu fără unele defecte majore). Și aceeași abordare generală poate fi folosită pentru a distinge între comportamentul „bun” și cel problematic, bazată pur și simplu pe modul în care oamenii se mișcă sau se comportă.
O astfel de supraveghere duce din punct de vedere tehnic la „productivitate mai mare”, în sensul că mărește capacitatea unei autorități de a-i obliga pe oameni să facă ceea ce ar trebui să facă. Pentru o companie, aceasta înseamnă efectuarea muncii la ceea ce managementul consideră a fi cel mai înalt nivel de productivitate. Pentru un guvern, înseamnă aplicarea legii sau, în alt mod, asigurarea respectării celor de la putere.
Din păcate, un mileniu de experiență a stabilit că creșterea productivității nu duce neapărat la îmbunătățiri ale împărțirii prosperității. Supravegherea de astăzi bazată pe inteligență artificială le permite managerilor dominatori și liderilor politici autoritari să-și impună regulile mai eficient. Dar, în timp ce productivitatea poate crește, majoritatea oamenilor nu vor beneficia.
Aceasta nu este doar speculație. Corporațiile folosesc deja metode de supraveghere îmbunătățite prin inteligență artificială pentru a monitoriza fiecare mișcare a angajaților lor. Amazon, de exemplu, cere celor ce livrează produsele să descarce o aplicație (Mentor) care le notează modul de șofat – presupus în numele siguranței. Dar unii șoferi raportează că au fost urmăriți chiar și atunci când nu sunt la treabă.
Mai larg, compania de consultanță Gartner estimează că ponderea marilor angajatori care folosesc instrumente digitale pentru a-și urmări angajații s-a dublat de la începutul pandemiei de COVID-19, la 60%, și este de așteptat să ajungă la 70% în următorii trei ani. Deși dovezile disponibile sugerează că o supraveghere mai mare este corelată cu o satisfacție mai scăzută la locul de muncă, chiar și mulți angajatori care sunt de acord că monitorizarea angajaților lor ridică „preocupări etice” încă o fac.
Adevărat, tehnologia de supraveghere nu este în mod inerent anti-umană. Dimpotrivă, ar putea îmbunătăți siguranța (cum ar fi prin monitorizarea trăgătorilor activi) sau confortul. Dar trebuie să găsim echilibrul potrivit între aceste beneficii și confidențialitate și trebuie să facem tot ce putem pentru a ne asigura că tehnologiile IA nu sunt părtinitoare (cum ar fi pe baza culorii pielii sau a sexului). Abordarea acestor probleme va necesita noi norme și cooperare la nivel internațional. Orice IA folosită pentru a urmări sau pedepsi lucrătorii ar trebui scoasă la vedere, cu transparență deplină în ceea ce privește modul în care face recomandări. Dacă ești concediat pentru că o IA a considerat că atitudinea ta este problematică, ar trebui să poți contesta această decizie. Cu toate acestea, deoarece multe dintre noile IA sunt „cutii negre” pe care nici măcar dezvoltatorii lor nu le înțeleg, ele limitează automat sfera procesului echitabil.
Chiar și într-o țară atât de polarizată precum SUA, este posibil ca oamenii să se unească în favoarea restricțiilor de supraveghere. Toată lumea de la stânga la dreapta împărtășește o preocupare de bază despre permanenta supraveghere, chiar dacă temerile specifice ale indivizilor diferă. Același lucru este valabil în toate democrațiile lumii.
Cu toate acestea, este puțin probabil ca China să coopereze cu eforturile de a reduce utilizarea neîngrădită a instrumentelor de supraveghere. Nu numai că a crescut sistematic supravegherea internă pentru a suprima disidența și a monitoriza comportamentul social într-un grad fără precedent; de asemenea, își exportă tehnologia de supraveghere către alții. Tehnologia opresiunii a devenit mai ieftină peste tot și dintr-o dată.
În această lume bifurcată, o tabără va dezvolta probabil standarde solide pentru a decide când și cum poate fi utilizată supravegherea. Subiectul va rămâne controversat, dar tehnologia va fi în mod substanțial în întregime sub control democratic. În cealaltă tabără, liderii autocrați vor folosi o supraveghere extinsă pentru a-și menține populațiile sub control. Vor exista camere de vedere peste tot, care facilitează atâta represiune cât consideră regimul de cuviință să folosească.
O mare alegere economică se profilează pentru democrațiile lumii. Ar trebui să continuăm să cumpărăm bunuri din țări în care lucrătorii sunt supuși unor tehnologii de supraveghere pe care nu le-am accepta acasă? Procedând astfel, am încuraja mai multă supraveghere și mai multă represiune din partea regimurilor care încearcă din ce în ce mai mult să submineze propriile noastre democrații. Ar fi mult mai bine pentru prosperitatea comună dacă am pleda pentru o tehnologie de supraveghere mai redusă, cum ar fi stipulând că numai produsele care respectă pe deplin garanțiile de supraveghere vor fi permise pe piețele noastre.
În anii 1990 și începutul anilor 2000, SUA și Europa au acordat Chinei un acces mult mai mare la piețele lor, presupunând că exporturile din țările cu salarii mici ar aduce beneficii consumatorilor interni și ar contribui la democratizarea la sursă. În schimb, China a devenit și mai autoritară, iar creșterea alimentată de export și-a întărit regimul.
Nu ar trebui să ne mai facem iluzii cu privire la consecințele permiterii accesului neîngrădit pe piață pentru țările care păstrează un control strict asupra lucrătorilor lor. Tehnologiile IA vor fi folosite pentru a ajuta lucrătorii sau pentru a le jefui demnitatea? Politicile noastre comerciale și de brevete nu trebuie să fie oarbe la astfel de întrebări.
Autorii:
Simon Johnson, fost economist-șef la Fondul Monetar Internațional, este profesor la Sloan School of Management a MIT, co-președinte al Alianței pentru Politici COVID-19 și co-președinte al Consiliului pentru Risc Sistemic al Institutului CFA. El este co-autor (împreună cu Daron Acemoglu) al cărții Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023).
Daron Acemoglu, profesor de economie la MIT, este coautor (împreună cu James A. Robinson) al lucrării Why Nations Fail: The Origins of Power, Prosperity and Poverty (Profil, 2019) și co-autor (împreună cu Simon Johnson) “Putere și progres”
Sylvia Barmack este un senior expert cu o specializare în știința datelor la Universitatea din Michigan.
Traducere, adaptare, editare: Daniel Apostol, ClubEconomic
Drepturi de autor: Project Syndicate.
