„Stimulente perverse” pentru „tokenmaxxing”: Angajați Amazon, acuzați că folosesc AI pentru sarcini inutile ca să își crească scorurile interne

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Angajații Amazon folosesc un instrument intern de IA pentru a automatiza sarcini neesențiale, în încercarea de a le demonstra managerilor că utilizează tehnologia mai frecvent, scrie Financial Times.

Grupul cu sediul în Seattle a început să implementeze pe scară largă produsul său intern „MeshClaw” în ultimele săptămâni, permițând angajaților să creeze agenți de IA care se pot conecta la software-ul de la locul de muncă și să îndeplinească sarcini în numele utilizatorului, potrivit a trei persoane familiarizate cu această chestiune.

Unii angajați au spus că colegii foloseau software-ul pentru a automatiza activități suplimentare și inutile de IA, cu scopul de a-și crește consumul de token-uri, unități de date procesate de modele.

Aceștia au spus că această mișcare reflectă presiunea de a adopta tehnologia după ce Amazon a introdus ținte ca peste 80% dintre dezvoltatori să utilizeze IA în fiecare săptămână și, la începutul acestui an, a început să monitorizeze consumul de tokeni IA pe clasamente interne.

„Există o presiune enormă de a folosi aceste instrumente”, a declarat un angajat Amazon pentru FT. „Unii oameni folosesc MeshClaw doar pentru a-și maximiza utilizarea tokenilor”.

Amazon le-a spus angajaților că statisticile privind token-urile de IA nu vor fi utilizate în evaluările de performanță. Însă mai mulți membri ai personalului au declarat că sunt de părere că managerii monitorizează datele.

„Managerii se uită la ele”, a spus un alt angajat actual. „Când urmăresc utilizarea, se creează stimulente perverse, iar unii oameni sunt foarte competitivi în această privință.”

Grupurile din Silicon Valley fac presiuni pentru a crește adoptarea instrumentelor de IA generativă, pe măsură ce companiile încearcă să demonstreze rentabilitatea angajamentelor de cheltuieli uriașe pentru infrastructura de IA și să integreze tehnologia mai profund în activitatea de zi cu zi.

Este de așteptat ca Amazon să cheltuiască anul acesta 200 de miliarde de dolari în investiții de capital, marea majoritate a acestora fiind destinată infrastructurii de IA și a centrelor de date.

Grupul de comerț electronic a publicat statistici la nivel de echipă privind utilizarea IA de către personalul său, dar recent a limitat accesul, astfel încât doar angajații înșiși și managerii să poată vizualiza statisticile.

Managerii sunt descurajați să se folosească de utilizarea token-urilor pentru a măsura performanța, potrivit unei persoane familiarizate cu problema.

Cei de la Meta s-au angajat în mod similar în așa-numitul „tokenmaxxing” pentru a-și îmbunătăți poziția în clasamentele interne.

Instrumentul MeshClaw pe care unii angajați l-au folosit pentru a-și îmbunătăți statisticile a fost inspirat de OpenClaw, care a devenit viral în februarie. OpenClaw permite utilizatorilor să ruleze agenți local pe propriul hardware, inclusiv computere și laptopuri.

MeshClaw de la Amazon poate iniția implementări de cod, tria e-mailuri și interacționa cu aplicații precum Slack, potrivit unor persoane familiarizate cu subiectul.

Compania a declarat într-un comunicat că instrumentul a permis „mii de angajați Amazon să automatizeze sarcini repetitive în fiecare zi” și a fost un exemplu al modului în care grupul „împuternicește echipele” să experimenteze și să adopte instrumente de IA.

„Ne angajăm să dezvoltăm și să implementăm în mod sigur, securizat și responsabil IA generativă pentru clienții noștri”, a adăugat compania.

Potrivit unor documente interne, peste 36 de angajați Amazon au lucrat la acest instrument intern. O notă recentă care descria botul spunea: „Acesta visează peste noapte pentru a consolida ceea ce a învățat, îți monitorizează implementările în timp ce ești la ședințe și triază e-mailurile înainte să te trezești”.

Mai mulți angajați Amazon au declarat că sunt îngrijorați de riscurile de securitate ale unui instrument de IA căruia i s-a acordat permisiunea de a acționa în numele unui utilizator.

Acest lucru riscă să ducă la situații în care agentul poate comite erori sau întreprinde acțiuni neintenționate.

„Situația implicită de securitate mă îngrozește”, a spus un angajat. „Nu am de gând să-l las să funcționeze și să-și facă de cap.”