Noise – un defect al judecății umane

Noise este o analiză penetrantă a judecății umane și arată cum efectul de noise (zgomot) produce erori în multe domenii de activitate. Efectul de noise poate fi găsit oriunde se emit judecăți și se iau decizii. Cu toate acestea, indivizii și organizațiile ignoră impactul său, cu costuri grele. Noise explică de ce și cum suferă oamenii de efectul de noise, dar explorează și ce se poate face pentru a lua decizii mai bune.

Articolul este scris de Mukul Pal, lectorul AS Financial Markets, iar originalul îl puteți găsi aici:

Scurtă introducere

Einstein a spus: „Un nou tip de gândire este esențial pentru ca omenirea să supraviețuiască și să se îndrepte către niveluri mai înalte”. Trebuie să regândim psihologia dacă trebuie să oferim lumii instrumente mai bune de judecată. Pentru că Psihologia – studiul științific al minții și al comportamentului – a încetat să se mai relaționeze cu Știința. Oricât de hiperbolic ar suna, o mulțime de știință și fizică conectate la mintea umană precedă subiectul finanțării comportamentale cu mai mult de un secol.

John Rae a scris despre mecanismele psihologiei încă din 1834 [1], dar Știința nu a avansat suficient pentru ca lumea să recunoască această strălucire, la fel cum au trebuit să treacă 60 de ani pentru ca lumea să-l recunoască pe Louis Bachelier. Dacă putem recunoaște în cele din urmă că lumea psihologiei este științifică, nu este o chestiune de plauzibilitate și filozofie, este o chestiune de a accepta că Finanțarea Comportamentală nu ar fi trebuit să ezite să recunoască și să accepte că s-a îndepărtat mult de Știință. Titlul ales de Richard Thaler, „Sfârșitul finanțelor comportamentale” [2], pare într-adevăr a fi un titlu potrivit pentru un subiect care a câștigat trei premii Nobel [2002, 2013 și 2017], dar se luptă cu lipsa științei.

Noise – încercarea de a da sens judecății umane

Noise, cartea lui Daniel Kahneman, Oliver Sibony și Cass R. Sunstein face o altă încercare de a da sens judecății umane, dar ajunge să întărească incapacitățile umane, care sunt constrânse de conflicte, operează în contextul inefabil, dar uneori lucid al informației, în cadrul diverselor grupuri care se amplifică – converg și prezintă modele de persistență – reversiunea – dependență și independență. Cartea respinge soluțiile statistice și sugerează că modelul de gândire este bun, dar nu suficient de bun pentru a înlocui raționamentul uman. La nivel cauzal, autorii vor să credem că judecata umană defectuoasă are nevoie de linii directoare, reducerea informațiilor și o intervenție manuală conștientă pentru a îmbunătăți judecata. Dar în același timp, inconștient, ei detaliază încă o dată mecanismul psihologic al lui Rae, în timp ce gigantul rămâne în fundal, un necunoscut erou al psihologiei.

Noise – realitatea disprețuită în lumea lui Kahneman, Sibony și Sunstein

Noise este o realitate disprețuită în lumea lui Kahneman, Oliver Sibony și Cass R. Sunstein. Ideea a fost detaliată și în „Thinking, Fast and Slow” [3], iar cu „Noise” [4] autorii întăresc dificultatea eliminării zgomotului, acceptând la un anumit nivel că acel Străin [5] sau Demon [6] nu trebuie investigat de psihologi. Căutarea de mașini evazive, care să poată prelua un sistem și să-și ajusteze mecanismele pentru a construi o mașină care poate oferi rezultate precum judecăți mai bune este science-fiction pentru majoritatea psihologilor de astăzi.

În Noise, viziunea autorilor asupra judecății umane este o mină de imposibilități, provocări și contradicții. Variabilitatea judecății duce la o inechitate rampantă și la pierderi de bani. Oricât de mult ar încerca un om, acesta nu poate învăța niciodată adevărata lecție despre omniprezența zgomotului de sistem, care este universal pentru fiziologie și psihologie. Mintea umană era imperfectă și nu putea supraviețui decât evitând erorile mari. Chiar și atunci când s-a confruntat cu aceleași fapte de două ori nu a putut produce judecăți identice.

Nicio setare strictă de control nu ar putea dezvălui misterul zgomotului.

Dacă cineva a crezut pentru o clipă că zgomotul poate fi eliminat, a existat variabilitatea intrinsecă a funcționării creierului, care a aruncat o cheie și a afectat calitatea judecăților noastre, în moduri pe care nu se putea spera să le controleze. Orice mică speranță a fost spulberată de complexitatea nesfârșită a neuronilor noștri, care nu au funcționat niciodată în același mod. Lucrurile de care depinde viitorul pur și simplu nu pot fi cunoscute, iar ignoranța noastră obiectivă ne-a afectat nu numai capacitatea de a prezice evenimente, ci chiar și capacitatea de a le înțelege.

Zgomotul tindea să fie imprevizibil, invizibil și de nedescris, deoarece cauzele erau naturale, predicțiile care se potrivesc cu dovezile erau greu de rezistat și statisticile erau dificile. Și mai presus de toate acestea, a-i învăța pe oameni să evite prejudecățile a fost greu, deoarece de cele mai multe ori, direcțiile părtinirilor nu erau cunoscute dinainte, iar oamenii sufereau de punctele moarte ale prejudecăților. În ciuda tuturor acestor imposibilități și provocări, judecata umană a fost de neînlocuit. Era necesară o detectare în timp real a părtinirii, pentru a preveni erorile de potențare înainte ca acestea să apară și singura cale de urmat era educarea oamenilor despre părtiniri.

„Sistemul rapid a condus pe de o parte prejudecățile umane, dar pe de altă parte le-a îndepărtat capacitatea voluntară de a clasifica”

Dacă contradicțiile nu ar fi suficiente, autorii merg mai departe și adaugă o listă de conflicte în cazul lor de judecată umană slabă. Ființele umane trebuiau să iasă în evidență și să se îndepărteze de consens, altfel riscau să rămână obscure. În natură, selecția a funcționat doar cu o variație. Oamenii trebuiau, de asemenea, să mențină fațada unui acord [o iluzie] pentru că, fără acest realism naiv, ei nu vor fi, până la urmă, ființe sociale. În timp ce făceau toată această trecere de la a nu fi obscur la a trăi iluzia unui acord, oamenii au avut puține șanse să observe că regulile lor convenite erau vagi. Sistemul rapid conducea pe de o parte prejudecățile umane, dar pe de altă parte le elimina capacitatea voluntară de a clasifica.

„Conflictele au fost peste tot”

Dezacordurile erau peste tot. Chiar și argumentele bune s-ar putea îndrepta în direcții opuse. Examinatorii de amprente și medicii nu numai că nu au fost de acord cu ei înșiși, dar [au făcut acest lucru mai rar decât ei] nu au fost de acord cu ceilalți. Chiar dacă au existat modalități de a părăsi părtinirea, ipoteza inițială rezonabilă s-a dovedit uneori a fi greșită. Conflictele erau peste tot.

”În era informației, diavolul se află uneori în detalii, se ascunde printre detalii, iar alteori pur și simplu dispare”

În epoca informației, diavolul se află uneori în detalii, se ascunde printre detalii, iar alteori pur și simplu dispare. Autorii cărții „Noise” nu sunt clari cu privire la rolul informațiilor în judecată. Informațiile pot fi identificabile, pot fi bogate, utile și complexe, dar niciodată perfecte. Judecata proastă a fost mult mai ușor de identificat decât judecata bună. Cu toate acestea, nu a ajutat niciodată la cuantificarea dezacordului. Unele informații erau relevante, iar altele nu.

Mai multe informații nu au fost întotdeauna mai bune și nu au condus la predicții mai bune. Iar informațiile noi, dacă nu erau decisive, au oferit mai multe oportunități de confuzie. Apoi a existat influența gândirii cauzale asupra informației. Gândirea cauzală a creat povești și a făcut ca informațiile să pară complet explicabile, într-adevăr previzibile. Mintea umană ar putea transforma cu ușurință o corelație într-o forță cauzală și explicativă care le-a permis oamenilor să dea un sens lumii mult mai puțin previzibile.

Apoi a fost starea de spirit, care a schimbat modul în care oamenii gândeau. O bună dispoziție ar putea face oamenii receptivi la prostii [7]. Proasta dispoziție i-a influențat pe martorii oculari să evite mărturiile false. Starea de spirit ar putea influența, de asemenea, judecățile morale, așa cum sunt menționate de problemele pasarelei [8].

Apoi a fost manipularea informațiilor. Secvențierea informațiilor și partajarea acestora ar putea ajuta la coerență, deoarece informațiile irelevante expuse la începutul procesului judiciar ar putea confunda hotărârea. Asimetria dintre predicțiile favorabile și nefavorabile a dispărut atunci când au fost disponibile mai multe informații.

„Informațiile în adevăratul sens nu au contat”

Pentru autori, Informația în adevăratul sens nu a contat. Motorul cheie a fost capacitatea umană de a se comporta diferit în momente diferite. Pe măsură ce starea lor de spirit a oamenilor a variat, unele caracteristici ale memoriei lor cognitive au variat odată cu aceasta. Informațiile meteo nu au afectat direct deciziile, ci au modificat starea de spirit a decidentului și, prin urmare, „Norii i-au făcut pe tocilari să arate bine” [9].

„Am traversat podul și am ajuns la mecanismul lui John Rae, unde un om zbura constant între stările de gratificare instantanee și întârziate”

În timp ce parcurgeam discursul laureatului Nobel despre mintea umană afectată, mintea mea continua să caute un ac numit Știință. Căutam un mecanism. În cele din urmă, am traversat podul și am ajuns la mecanismul lui John Rae, unde un om zbura constant între stările de gratificare instantanee și întârziate. Și pe măsură ce timpul trecea și plăcerea s-a apropiat, a devenit mai greu de imaginat, ce va prevala. Să fie starea impulsivă rapidă, condusă de plăcere, de gratificare instantanee sau starea de gratificare lentă, pasivă, raționalizantă, întârziată? Psihologii nu au acordat creditul cuvenit lui John Rae și lucrării sale privind alegerile intertemporale, dar zgomotul mecanismului său continuă să creeze imprevizibilitate subiectului.

Discuția lui Kahneman și colab. asupra structurilor, mecanismelor, grupurilor, limitelor, comportamentelor, dependenței și independenței împreună cu zgomotul a reaprins în mine o nouă speranță: speranța unei rezoluții științifice cu privire la situația dificilă a judecății umane, care, deși era eronată, a limitat asistența din partea Științei pentru claritate și îndrumare. Deznădejdea autorilor cu privire la mintea umană își are rădăcinile în reticența sa de a aprecia natura mecanicistă a psihologiei. Deschiderea sa probabilă de a rearanja piesele puzzle-ului i-ar putea permite să înțeleagă frumoasa Natură la lucru. Unde în loc de elemente, fapte și judecăți, el putea vedea o mașină a minții funcționând perpetuu. O mașină cu părți distincte și polarizate. O mașinărie cu expresii contradictorii de înțelepciune vs. nebunie, striuri vs. echilibru, distorsiune vs. ordine, părtinire vs. eroare, comparație vs. singurătate, dependență vs independență, ex-post vs ex-ante etc.

„Dacă oamenii s-ar baza doar pe ceea ce cred alții, mulțimile ar putea să nu fie atât de înțelepte”

„Noise” detaliază metoda Delphi de agregare socială și susține că învățarea a funcționat, deoarece la un anumit nivel ar putea reduce zgomotul și, prin urmare, eroarea. Cu toate acestea, acest lucru se putea întâmpla doar într-o stare de independență și atunci când mulțimea nu împărtășește părtiniri. Independența a fost o condiție prealabilă pentru înțelepciunea mulțimilor. Dacă oamenii nu ar emite propriile judecăți și s-ar baza pe ceea ce cred alții, mulțimile ar putea să nu fie atât de înțelepte până la urmă.

O primă mișcare ar putea stabili tendința viitoare. Manipularea grupului a fost ușoară, deoarece popularitatea și impopularitatea se auto-întăreau. Mai multe studii efectuate cu clasamentul manipulat al cântecelor au confirmat comportamentul de turmă. Un efect similar a fost observat în pozițiile politice.

Grupurile ar putea amplifica zgomotul. Ar putea merge în tot felul de direcții și ar putea avea clasamente extrem de disparate. Influența socială a redus diversitatea grupului fără a diminua eroarea colectivă. Opiniile multiple independente, atunci când sunt agregate în mod corespunzător, ar putea fi uimitor de exacte, dar chiar și o mică influență socială ar putea produce un fel de păstorire care submina înțelepciunea mulțimilor.

„După o serie de decizii în aceeași direcție este mai probabil să se decidă în direcția opusă”

Aceeași minte care producea o judecată greșită era, de asemenea, remarcabil de plină de modele de persistență în timp și de reversiune [o schimbare de curs]. Studiile au arătat că ființele umane s-au înclinat spre restabilirea unei forme de echilibru. După o serie de decizii în aceeași direcție, era mai probabil decât s-ar fi justificat ca aceștia să decidă în direcția opusă. Drept urmare, erorile și nedreptățile erau inevitabile.

„Extremitatea este o eroare care nu știe să se controleze”

„Noise” a descris cu îndrăzneală că părtinirea consecventă a produs o eroare consistentă. Dintr-un anumit punct de vedere, este greu să nu fii de acord cu această afirmație. Pentru că, cu cât prejudecățile sunt mai mari, cu atât extremitățile sunt mai mari și, prin urmare, și eroarea. Dar modelul minții umane al lui Kahneman nu are o limită. Extremitatea este o eroare care nu știe să se controleze. Acesta este motivul pentru care se credea că indignarea emoțională este un factor determinant principal al intenției punitive.

„Mintea a existat întotdeauna în stări duale, interconectate, de auto-echilibrare”

Spre deosebire de liniaritatea descrisă în „Noise”, mecanismul lui John Rae trece între două stări neliniare. Dacă extindem logica, mintea nu poate trăi într-o stare de impuls sau într-o stare de autocontrol și gratificare întârziată. Mintea a existat întotdeauna în stări duale, interconectate, de auto-echilibrare. Cu cât dezechilibrul este mai mare, cu atât este mai mare capacitatea înnăscută a minții de a căuta echilibrul. Într-un astfel de mecanism, părtinirea consecventă nu a produs o eroare consistentă, ci mai degrabă a produs dezechilibrul necesar, pentru autocorecție și învățare.

”Mintea umană este un mecanism de învățare”

Mintea umană este un mecanism de învățare. Acesta este motivul pentru care inteligenței artificiaIe (IA) îi este greu să-și dea seama cum să facă IA asemănătoare omului. A numi mintea umană nesănătoasă în capacitatea ei de a judeca înseamnă a renunța la un fumător. Sau a-i spune unei persoane obeze că nu va pierde niciodată în greutate sau a renunța la un alcoolic. O societate este capabilă să se guverneze mai bine, în ciuda eșecurilor sale.

„Kahneman consideră că părtinirea și zgomotul sunt independente”

Autorii ”Noise” consideră că părtinirea și zgomotul sunt independente, dar nu se întreabă de ce oamenii au o viziune remarcabilă pentru a se potrivi cu intensitățile. De unde simțul proporției? De ce, în ciuda manipulării, prevalează unele ordine distincte?

„În lumea lui Rae, părtinirea și zgomotele sunt dependente”

În lumea lui Rae, părtinirea și zgomotele sunt dependente. Prejudecățile hrănesc eroarea, care creează extremități în minte, care se autoreglează și echilibrează eroarea, uneori oscilând la cealaltă extremă, perpetuu, în timp ce câștigă experiență, cunoștințe și inteligență.

„Formulele banale, agregarea mecanică, aplicate consecvent, au depășit judecățile clinice”

Ironia mesajului din „Noise” este că, deși modelele și elementele mecaniciste sunt presărate în text, ele nu sunt văzute ca o soluție la judecata greșită. Potrivit textului, liniile directoare reduc zgomotul și au luat deciziile inacceptabil de mecanice. Bootstrapping-ul dialectic a produs îmbunătățiri ale preciziei. Modelul simplu frugal învinge judecata umană. Regulile mecanice simple erau în general superioare judecății umane. Formule banale, agregare mecanică, aplicate consecvent, au depășit judecățile clinice. Modelele de judecători au depășit în mod constant judecătorii pe care i-au modelat. Modelele mai bune aveau o caracteristică definitorie că aceeași regulă se aplica în toate cazurile. Modelele cu reguli simple care puteau fi aplicate cu calcule reduse sau deloc au produs predicții impresionant de precise în unele situații. Dar chiar și cu toate aceste dovezi, cartea numește modelele îmbunătățiri marginale care nu ar putea niciodată să încalce aversiunile algoritmice, deoarece oamenii se așteptau mult mai mult de la mașini.

„Inima umană nu este plasată simetric între plămânii umani”

Inima umană nu este plasată simetric între plămânii umani. Două artere hrănesc plămânii din partea stângă a inimii și trei artere hrănesc plămânii din partea dreaptă a inimii. De ce a creat natura această asimetrie? Este un design conștient sau un defect de design? Există multe răspunsuri anatomice la această întrebare. Dar s-ar putea specula că asimetria a fost concepută pentru instabilitate, o necesitate pentru construirea de sisteme dinamice. Prejudecățile și zgomotul nu sunt independente, sunt interconectate, feedback și se alimentează reciproc.

„Zgomotul fie se anulează, fie amplifică părtinirea”

Zgomotul fie se anulează, fie amplifică părtinirea. O împinge la o extremă, unde părtinirea are două opțiuni, fie să persistă, fie să echilibreze mecanismul auto-corectându-se. Rolul zgomotului în acest mecanism nu este de a încurca judecata, ci este de a ajuta la formularea judecății, deoarece mecanismul procesează și calculează informații. La fel ca constrângerea umană cu memoria, mecanismul este, de asemenea, ușor de calculat și poate procesa informații limitate la un anumit moment. Actul de a genera extremități și dinamism permite mecanismului să rămână slab, reținând doar ce este învățarea esențială. Acesta este motivul pentru care un cadru comun de referință funcționează atât de eficient, deoarece simplifică înțelegerea informațiilor, în ciuda cauzalităților, corelațiilor și complexității sale în judecată.

Figura 1: Mecanismul de zgomot și părtinire

În loc de concluzie

Nu există una, ci multe moduri de a conceptualiza natura. Și psihologi precum Kahneman refuză să iasă din definițiile restrânse ale psihologiei, a ceea ce ei cred că este neștiințific. Psihologia precum Știința ne aparține tuturor și, ca societate a cunoașterii, este datoria noastră să punem întrebări, să provocăm și să căutăm răspunsuri, un nou tip de gândire. Din fericire pentru noi, mai există multă știință de descoperit din istorie. Fizica psihologiei explică multe dintre erorile din judecata noastră și oferă o nouă modalitate prin care societatea își îmbunătățește judecata și să nu se piardă în zgomotul definit liniar.

Bibliografie:

1. Rae, J. The Sociological Theory of Capital, 1834
2. Thaler, R. „End of Behavioral Finance”, Financial Analysts Journal, 1999
3. Kahneman, D. „Thinking Fast and Slow”, FSG, 2011
4. Kahneman, D. Sibony, O. Sunstein, C. „Noise”, Little, Brown and Company, 2021
5. Pal, M. „Mecanismele psihologiei”, SSRN, 2022
6. Maxwell, J. C. „Demonul lui Maxwell”, 1867
7. Pennycook. G, Cheyne. J. A, Barr. N, Koehler. D. J, Fugelsang. J. A, „Bullshit Receptivity Scale”, 2015
8. Mikhail, J. „Moral Cognition and Computational Theory”, MIT Press, 2007
9. Simonsohn, U. „Clouds make nerds look good: field evidence of the impact of incidental factors on decision making”, Behavioral Decision Making, Wiley, 2006

Citește și: Atlas of AI, de Kate Crawford – o carte tulburătoare despre inteligența artificială