Angajații se tem să fie urmăriți – și neînțeleși

Angajații se tem să fie urmăriți – și neînțeleși

Inteligența artificială emoțională utilizări semnale biologice cum ar fi tonul vocii, expresiile faciale și datele de pe dispozitivele mobile, precum și textul și modul în care oamenii își folosesc computerele, care promit să detecteze și să prezică cum se simte cineva. Este folosit în setari la fel de banale precum divertismentul, precum și în mize mari, cum ar fi locul de muncă, recrutarea și asistența medicală.

O gamă largă de industrii folosesc deja AI emoționalinclusiv centre de apeluri, finanțe, servicii bancare, asistență medicală și îngrijire. Peste 50% dintre marii angajatori din SUA folosesc IA emoțională cu scopul de a deduce stările interne ale muncitorilor, practică care a crescut în timpul pandemiei de COVID-19. De exemplu, centrele de apeluri monitorizează ceea ce spun operatorii lor și tonul vocii.

Cercetătorii și-au exprimat îngrijorări cu privire la validitatea științifică a emoției AI si e se bazează pe teorii contestate ale emoţiei. Ei au subliniat, de asemenea, potențialul inteligenței artificiale în emoție încălcarea vieții private și expune rasial, gen și handicap prejudecata.

Unii angajatori folosesc tehnologia parca ar fi fost impecabilîn timp ce unii savanţi caută să să-și reducă părtinirea și să-i îmbunătățească validitatea, discreditează-l complet sau sugerează Interdicția emoțiilor AIcel puțin până când se știe mai multe despre efectele sale.

o studiez impactul social al tehnologiei. Consider că este vital să luăm în considerare efectele AI asupra emoțiilor pentru persoanele care sunt supuse acesteia, cum ar fi lucrătorii – în special cei care sunt marginalizați din cauza rasei, sexului sau dizabilității.

Poate AI să-ți citească cu adevărat emoțiile? Nu chiar.

preocupările angajaților

Pentru a înțelege unde se duce utilizarea IA emoțională la locul de muncă, colega Karen Boyd și am început să examinez percepţiile inventatorilor de emoție AI la locul de muncă. Am analizat cereri de brevet care au propus tehnologii AI emoționale pentru locul de muncă. Beneficiile pretinse revendicate de solicitanții de brevet includ evaluarea și sprijinirea bunăstării angajaților, asigurarea siguranței la locul de muncă, creșterea productivității și asistarea în luarea deciziilor, cum ar fi promovările, concedierea angajaților și atribuirea de sarcini.

Ne-am întrebat ce cred angajații despre aceste tehnologii. Și-ar da seama de aceste beneficii? De exemplu, ar considera angajaților că este benefic pentru angajatori să le ofere sprijin social?

Partenerii mei Shanley Corvite, Kat Roemmich, Tilly Ilana Rosenberg și am realizat un sondaj parțial reprezentativ pentru populația SUA și parțial supraeșantionare pentru persoane de culoare, persoane trans și non-binare și persoane care trăiesc cu boli mintale. Este mai probabil ca aceste grupuri să fie afectate de IA emoțională. Studiul nostru a avut 289 de participanți din eșantionul reprezentativ și 106 participanți din supereșantion. Am găsit-o 32% dintre respondenți au raportat că au experimentat sau nu se așteptau la niciun beneficiu pentru ei din utilizarea emoțiilor AI, fie actuale sau anticipate, la locul lor de muncă.

În timp ce unii lucrători au remarcat beneficiile potențiale ale utilizării AI emoționale la locul de muncă, cum ar fi sprijinul sporit pentru sănătate și siguranța la locul de muncă, reflectând beneficiile revendicate în cererile de brevet, toți și-au exprimat, de asemenea, îngrijorări. Erau îngrijorați de vătămarea bunăstării și a intimității lor, de deteriorarea performanței în muncă și a statutului lor de muncă, precum și de prejudecățile asupra sănătății mintale și stigmatizarea împotriva lor.

De exemplu, 51% dintre participanți și-au exprimat îngrijorarea privind confidențialitatea, 36% au remarcat potențialul de concluzii false pe care angajatorii le-ar accepta la valoarea nominală, iar 33% și-au exprimat îngrijorarea că inferențe generate de inteligența artificială ar putea fi folosite pentru a lua decizii nedrepte de angajare.

Vocile participanților

Un participant care avea mai multe afecțiuni de sănătate a spus: „Conștientizarea de a fi analizat ar avea, în mod ironic, un efect negativ asupra sănătății mele mintale”. Aceasta înseamnă că, în ciuda obiectivelor pretinse ale IA emoțională de a deduce și de a îmbunătăți bunăstarea angajaților la locul de muncă, utilizarea sa poate duce la efectul opus: o scădere a bunăstării din cauza pierderii intimității. Într-adevăr, o altă lucrare a colegilor mei Roemmich, Florian Schaub și sugerez că pierderea intimității cauzată de emoție se poate întinde pe o gamă largă invadează intimitateainclusiv psihologică, autonomie, financiară, relațională, fizică și discriminare.

În ceea ce privește îngrijorările că supravegherea emoțională le-ar putea pune în pericol locurile de muncă, un participant cu o afecțiune mintală diagnosticată a spus: „Ar putea decide că nu mai sunt bun la job și să mă concedieze. Decide că nu sunt suficient de bun și nu da o mărire de salariu sau crezi că nu muncesc suficient de mult.’

Participanții la studiu au menționat, de asemenea, potențialul de agravare a dezechilibrelor de putere și au spus că se tem de dinamica pe care ar avea-o cu angajatorii dacă IA emoțională ar fi integrată la locul lor de muncă, arătând cum utilizarea IA emoțională ar putea intensifica tensiunile existente față de angajator. Relații de muncă. De exemplu, un respondent a spus: „Gradul de control pe care angajatorii îl au deja asupra lucrătorilor sugerează că va exista puțin control asupra modului în care sunt utilizate aceste informații. Orice „consimțământ” (de la) lucrători este în mare măsură iluzoriu în acest context.”

Emotion AI este doar o modalitate prin care companiile urmăresc angajații.

În cele din urmă, participanții au remarcat potențiale daune, cum ar fi inexactitățile tehnice ale AI emoționale care pot crea impresii false pentru angajați și IA emoțională care creează și perpetuează părtinire și stigmatizare împotriva angajaților. În descrierea acestor preocupări, participanții și-au evidențiat teama ca angajatorii să se bazeze pe sisteme AI inexacte și părtinitoare, în special împotriva persoanelor de culoare, a femeilor și a persoanelor transgender.

De exemplu, un participant a spus: „Cine decide ce expresii „arata violent” și cum se poate identifica oamenii ca fiind o amenințare doar prin privirea pe față? Un sistem poate citi chipuri, dar nu minți. Pur și simplu nu văd cum acest lucru ar putea fi altceva decât distructiv pentru minoritățile la locul de muncă.”

Participanții au remarcat că fie ar refuza să lucreze într-un loc care folosește IA pentru emoții – o opțiune care nu este disponibilă pentru mulți – fie ar fi implicat în comportamente care fac ca emoția AI să le citească în mod favorabil pentru a-și proteja confidențialitatea. Un participant a spus: „Mi-aș exercita o cantitate uriașă de acoperire energetică chiar și atunci când eram singur în biroul meu, ceea ce m-ar face foarte distras și contraproductiv”, arătând cum utilizarea IA emoțională ar impune angajați emoționali suplimentari.

Merită deranjamentul?

Aceste descoperiri sugerează că IA emoțională exacerbează provocările existente cu care se confruntă angajații la locul de muncă, în ciuda susținătorilor care susțin că IA emoțională ajută la rezolvarea acestor probleme.

Dacă IA emoțională funcționează așa cum pretinde și măsoară ceea ce pretinde că măsoară și chiar dacă problemele de părtinire sunt abordate în viitor, există totuși daune cu care se confruntă lucrătorii, cum ar fi munca emoțională suplimentară și pierderea intimității.

Dacă aceste tehnologii nu măsoară ceea ce susțin sau sunt părtinitoare, atunci oamenii sunt la cheremul unor algoritmi care sunt considerați validi și de încredere atunci când nu sunt. Angajații ar trebui să depună totuși eforturi pentru a reduce șansele de a fi interpretați greșit de algoritm sau de a se implica în afișări emoționale care ar fi favorabile algoritmului.

Oricum, aceste sisteme funcționează ca panoptic-cum ar fi tehnologiile, care creează încălcări ale vieții private și sentimente de supraveghere.

Comments

No comments yet. Why don’t you start the discussion?

    Leave a Reply

    Your email address will not be published. Required fields are marked *