[Tehnologii ale emancipării / reacțiunii]

Tehnologii ale emancipării

Marx afirmă clar: tehnologiile noi răstoarnă raporturile de producție vechi, le înlocuiesc cu raporturi de producție noi; schimbarea de raporturi de producție (cum ar fi trecerea de la breslași și calfe la patroni și muncitori, și de la baros la mașini) schimbă și structurile societății. Deși în prima fază, în secolele 19-20, tehnologiile descalifică – transformă breslașul calificat în muncitor necalificat care face lucruri tot mai simple, în perioada curentă, muncitorii se re-califică: trebuie să știe CAD (Computer Aided Design) să utilizeze computere și programe, CNC (Computer Numerical Control).

Energia aburului, apoi energia electrică au înlocuit munca brută, mașinile au înlocuit munca brută; roboții au înlocuit muncitorii pentru sarcinile repetitive. Meserii pur mecanice odată, ca cea de tîmplar, folosesc azi mașini CNC. Curentul electric, mașina, robotul au eliminat munca fizică; informatizarea a impus cunoștințele de operare pe calculator pentru toți. Chiar muncile cîmpului sînt făcute de utilaje agricole autonome, roboți agricoli conduși de GPS și Lidar. Agricultorul viitorului folosește un calculator și nu mai petrece ore și zile în soare, în arșiță, în ploaie sau în frig (Autonomous Farm Machinery).

Din păcate, dacă industriile se automatizează sau se externalizează, iar muncitorii sînt înlocuiți de roboți ori sarcinile lor sînt exportate în Asia – cresc procentual muncile din sectorul serviciilor. Acestea au două trăsături: polarizare (informaticieni relativ bogați și calificați vs. muncitori de fast-food și transportatori de mîncare); și o sindicalizare redusă. Marile firme de comerț ca Amazon urăsc sindicatele și sindicalizarea.

Bilanțul a două secole de mașini este per ansamblu pozitiv. Sclavii negri care culegeau bumbac – cea mai grea dintre muncile grele – au fost înlocuiți de mașini. Sîntem departe de munca alienantă la bandă din Modern Times al lui Charlie Chaplin.

Dar valul Internetului a creat un nou analfabetism, digital illiteracy, incapacitatea celor bătrîni de a se folosi de Internet și serviciile digitale tot mai numeroase. Între Kafka și brutalitatea stalinistă, vocea roboților folosiți de serviciile instituționale – primării, poliție, bănci: ”pentru xxx, apăsați pe tasta 7”.

Tehnologii ale reacțiunii. Trei cărți despre evaluarea automată

Internetul, sateliții, tehnologia telefoanelor celulare au creat un nou control social. Noul Panopticon al Internetului este mai îngrozitor – și mult mai precis – decît cele mai îngrozitoare sisteme de supraveghere ale Cekăi și stalinismului. Edward Snowden, Katharine Gun, Chelsea Manning (Bradley Manning), au denunțat noile metode de supraveghere permanentă a tuturor. Cambridge Analytica a cîștigat alegeri. TikTok a arătat cum algoritmii pot aduna fani prin postări nostalgice, pentru a răsturna mesajele, în ultimul moment, spre candidatul manciurian, Călin Georgescu.

Cathy O’Neil Weapons of Math Destruction 2016, despre evaluarea automată, și Hilke Schellmann: The Algorithm: How AI Decides Who Gets Hired, Monitored, Promoted, and Fired and Why We Need to Fight Back Now, din 2024; Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, 2018.

În diverse state din SUA – și nu numai – numeroase formulare se completează online. Milioane de aplicații pentru ajutor social sau asigurări de sănătate sînt respinse, fiindcă orice eroare umană duce la respingere. (Autorul acestui articol a avut experiențe oribile cu ROeID și cu Revolut – ultimul cerea fotografia unor documente fizice). Algoritmi decid, în SUA, politici de supraveghere ale unor cartiere, familiile în risc de sărăcie, riscul de fraudă.

In Automating Inequality, Virginia Eubanks cercetează impactul algoritmilor asupra săracilor și muncitorilor din SUA: cine va primi ajutor social și cine va face foamea, cine va primi locuință și cine va rămîne pe drumuri, ce copii vor fi luați de la părinți. Numim aceasta sindromul Bill James, după matematicianul care a folosit metode predictive ca să angajeze jucători de baseball.

Cathy O’Neil Weapons of Math Destruction .

Autoarea este, la bază, matematician, și a lucrat la un hedge fund. Criza din 2008 i-a arătat că formulele pot produce și mult rău, nu doar ordine. După criză, ea observă că modelele matematice nu s-au retras, ci au intrat și mai adânc în viața de zi cu zi. Ele încep să evalueze elevi, profesori, angajați, debitori și alegători. Autoarea insistă că aceste sisteme nu sunt neutre doar fiindcă folosesc cifre. În spatele lor stau alegeri omenești, interese economice și idei despre „succes”. Exemplul profesorilor evaluați după mediile elevilor introduce tema centrală a cărții. De aici apare noțiunea de „Weapons of Math Destruction”, adică modele opace, extinse și dăunătoare. Un model este o simplificare a realității, făcută pentru a ajuta decizia. Autoarea admite că nu toate modelele sunt rele. Modelul din baseball este exemplul ei de model sănătos. El este relativ transparent, folosește date relevante și se corectează continuu după rezultate. În opoziție, multe modele sociale folosesc indicatori de substituție, nu datele care chiar contează. Asta le face să judece oamenii prin cod poștal, anturaj sau dosar penal și alte minusuri sociale. Scorurile de recidivă arată cum sărăcia poate fi confundată cu pericolul. Autoarea spune că o WMD, un weapon of math destruction, are trei trăsături: opacitate, scară mare și capacitate de a produce pagube. Când apare și o buclă de feedback, modelul începe să-și confirme singur prejudecățile. Autoarea, fostă „quant” = analist cantitativ/matematician în lumea financiară, a fost (la început) fascinată de puterea modelelor și de prestigiul mediului. Treptat, a observat însă că oamenii lucrau izolat și înțelegeau foarte puțin efectele sistemice. Modelele financiare urmăreau profitul, nu binele public. Înainte de criza din 2008, formulele au fost folosite ca să dea aparență de rigoare unor produse toxice. Când piața s-a prăbușit, a devenit limpede că matematica fusese folosită și ca paravan moral.

O’Neil critică mai ales ranking-urile de tip U.S. News ale universităților. Ea arată că aceste clasamente folosesc mulți indicatori de substituție pentru „calitate”. Odată ce publicul le ia drept adevăr, universitățile încep să joace pentru un scor mai bun și nu se mai concentrează pe studenți (ETH din Zürich, una din cele mai bine cotate universități, a declarat că nu va mai colabora cu instituțiile de evaluare a universităților, n. D. U. ). Unele universități chiar trișează sau manipulează datele ca să urce în top – universități saudite care angajează, nominal, oameni de știință cu scor bun – fără ca ei să fie obligați să predea. Altele își mută resursele spre ce măsoară algoritmul, nu spre ce îi educă real pe studenți. Rezultatul este o cursă a înarmării simbolice, nu o îmbunătățire autentică a învățământului. Vedem acest lucru și în România, cu publish or perish: universitățile nu mai organizează conferințe, simpozioane și colocvii ca specialiștii să își comunice cercetarea, ci pentru punctaj; profesorii sunt evaluați anual și scriu pentru punctaj. (Autorul acestor ronduri și-a văzut o carte de referință Istoria limbii române, 400 pagini, punctată cu 40 de puncte, când un articol de 10-12 pagini e notat cu 15 puncte: cartea, fărâmițată în vreo 20 de articole, ar fi putut primi 300 de puncte – de opt ori mai mult). Publicitatea online e și ea un laborator uriaș de manipulare. Autoarea explică mecanismul testării A/B, prin care mesajele publicitare online sunt testate pe internauți și ajustate permanent. La scară mare, această optimizare devine extrem de puternică. Reclamele devin eficiente speculând vulnerabilitatea internauților. Autoarea dă exemplul colegiilor for-profit (mici universități sau școli post-liceale pe bani din SUA care oferă cursuri ce par imediat utile pe piața muncii – facturare medicală, contabilitate, asistente medicale, sudură, asistenți în birouri de avocat) colegii care vânează oameni în momente de slăbiciune personală și economică. Manualele lor de recrutare identifică exact tipurile de persoane fragile mai ușor de împins spre o decizie proastă. Cei vizați nu știu cum sunt profilați și după ce algoritmi.
Programe de predictive policing, precum PredPol, promit să trimită poliția acolo unde riscul de infracțiune este mai mare. Dar datele pe care se bazează vin mai ales din cartiere deja supra-supravegheate. Astfel, modelul retrimite poliția tot acolo și produce și mai multe arestări în aceleași locuri, ceea ce creează un cerc vicios. Infracțiunile mărunte ale săracilor devin foarte vizibile, pe când criminalitatea financiară a celor bogați rămâne invizibilă. Modelul pare „științific”, dar de fapt întărește ceea ce a presupus din start. De aceea, victimele acestor big data sunt pedepsiți de un trecut statistic, nu de faptele lor individuale. Algoritmi sunt folosiți și de resursele umane pentru recrutarea și selecția angajaților.

O’Neil pornește de la cazul lui Kyle Behm, respins repetat din cauza unui test de personalitate. Testul nu măsura capacitatea lui reală de muncă, ci îl marca pe baza unor trăsături ipotetice. Astfel de teste sunt tot mai răspândite în recrutare. Companiile le acceptă fiindcă reduc costurile și elimină rapid candidați; dar ele folosesc adesea date slabe și ipoteze neverificate. Modelele caută semnale indirecte și comode. Cei respinși nu primesc aproape niciodată o explicație clară, ceea face foarte greu să conteste decizia sau să se corecteze. Automatizarea recrutării forței de muncă exclude în masă exact oamenii care au deja cel mai puțin capital social. Alte softuri (Cataphora) măsoară productivitatea în companii. Problema este că multe contribuții reale nu lasă urme bune în date. Astfel, sistemul poate eticheta drept „slab” un om valoros doar fiindcă nu se potrivește proxy-urilor alese. Odată ce scorul există, managerii îl folosesc ca justificare pentru concedieri sau penalizări. Locul de muncă devine un spațiu de monitorizare continuă, în care comoditatea managerială bate adesea dreptatea.

Monitorizarea prin programe informatice a fost promovată ca fiind obiectivă, că elimină subiectivitatea supraveghetorilor umani; dar programele informatice au propriile lor distorsiuni.

Credit și scoruri financiare

Autoarea distinge scorurile de credit FICO (marcă depusă) clasice și noile „e-scores”. Scorurile FICO sunt imperfecte, dar folosesc date relativ relevante și au un cadru legal. E-scores, în schimb, adună semnale din browsing, geografie, cumpărături și alte urme digitale. Ele se folosesc apoi pentru a decide ce oferte primești și la ce cost. O persoană dintr-o zonă săracă poate primi automat condiții mai rele doar fiindcă seamănă statistic cu un grup „riscant”. Asta produce un nou cerc vicios: cei deja dezavantajați plătesc mai mult și rămân mai ușor în urmă. Scorurile de credit sunt exportate abuziv în alte domenii, inclusiv angajarea. În multe cazuri, oamenii nici nu știu ce model i-a clasificat și pe baza căror erori. „Pagubele colaterale” sunt tocmai acei indivizi tratați ca tipologii statistice, nu ca persoane reale. Ultimul capitol aplică logica WMD-urilor vieții civice și politice. O’Neil pornește de la un exemplu simplu: postezi o petiție pe Facebook, dar nu știi cine o va vedea. Platforma decide, pe baza propriului algoritm, ce circulă și ce se îngroapă. Astfel, spațiul public aparent deschis este controlat de reguli private și opace. Capitolul discută și experimentele Facebook asupra utilizatorilor și puterea platformei de a influența comportamentul politic. Apoi trece la microtargetarea electorală. Campaniile pot ținti mesaje diferite spre grupuri diferite, fără ca publicul larg să poată vedea contradicțiile: unul și același candidat poate trimite mesaje sensibil diferite către grupuri sociale diferite. Când această tehnică se combină cu dezinformarea, cetățenii ajung să trăiască în realități politice paralele. Democrația slăbește atunci când persuasiunea politică se mută din piața publică în tuneluri algoritmice invizibile.

În concluzie, O’Neil spune că aceste arme matematice nu trebuie privite ca accidente izolate. Ele se leagă între ele și alcătuiesc un ecosistem de clasificare socială; ea nu cere abandonarea evaluării bazate pe algoritmi matematici, ci supunerea lor unor criterii etice și publice.

Ea insistă că modelele importante trebuie auditate. Un audit poate trata algoritmul ca pe o cutie neagră și îi poate evalua rezultatele. Ea cere mai multă transparență și restricții mai ferme asupra folosirii și revânzării datelor: recent, o firmă de teste genetice a dat faliment, iar profilul genetic al clienților a rămas ”în aer”: el poate deveni proprietatea oricărei firme care dorește să cumpere, pe mărunțiș, patrimoniul firmei insolvente.

Virginia Eubanks spune (Automating Inequality, p. 13) Digital tracking and decision-making systems have become routine in policing, political forecasting, marketing, credit reporting, criminal sentencing, business management, finance, and the administration of public programs. As these systems developed in sophistication and reach, I started to hear them described as forces for control, manipulation, and punishment.

„Urmărirea și sistemele de decizie digitale au devenit curente în politici publice, previziuni politice, evaluarea bonității bancare, condamnări penale, finanțe și administrație. Pe măsură ce puterea și sofisticarea lor se extindeau, oamenii au început să le perceapă ca forțe de control, manipulare și pedeapsă”. Pe măsură ce aceste sisteme de decizie algoritmică se extind, problemele lor etice devin tot mai mari.

În rugăciunea de Yom Kippur, Unetane Tokef, mîna îngerului hotărăște cine se va îmbogăți și cine va sărăci, cine va trăi în liniște și cine cu neliniști, cine va trăi în tihnă și cine va pribegi: iehatemun /…/ mi ianuah u mi ianua, mi ishaqet u-mi itaref, i ishakel u mi itasar.

Acest rol l-au preluat algoritmii – un stăpân nou – despre care s-a spus că are puterea de decizie a unei rațiuni informate, incoruptibile – dar căruia i s-au dat puteri totalitare.

Oamenii de azi din societățile de consum trăiesc sub o supraveghere mult mai metastatică decât în Rusia lui Stalin.

ce 15 avril, Fondation Hardt, Vandoeuvres

[Vatra, nr. 5-6/2026, pp. 94-96]