CEO AI Talks. Poți avea încredere în AI? Cu Zdenek Romanek, Raiffeisen Bank & Cristian Popescu, AWS

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Poate fi inteligența artificială de încredere atunci când lucrează cu datele tale? Este o întrebare pe care tot mai mulți CEO o evită în public, dar la care răspund Zdenek Romanek, CEO Raiffeisen Bank România, și Cristian Popescu, Country Lead Enterprise Business la Amazon Web Services România, într-un episod CEO AI Talks by Raiffeisen Bank și Economedia.

Potrivit lor încrederea nu se declară, ci se demonstrează zilnic, prin controale, guvernanță și designul infrastructurii.

Cum poți, atunci, să fii liniștit ca CEO cu AI în sistemele companiei? Răspunsurile implică supraveghere umană, procese clare, arhitecturi securizate și o delimitare fermă între experiment și operaționalizare.

Încrederea în AI

Întrebare: Poate fi AI de încredere când lucrează cu date sensibile?

Zdenek Romanek: Suntem mândri, ca industrie – și vorbind în numele băncii noastre – că clienții pot avea încredere în noi, inclusiv atunci când vine vorba de datele lor. În schimb, noi nu avem încredere oarbă în nimeni. Gestionăm datele clienților noștri cu foarte mare atenție, pentru a câștiga această încredere în fiecare zi, în fiecare operațiune, în viața reală și la scară reală.

Cristian Popescu: Avem o abordare „technology-first” și aș vrea să pornesc de la această poziție. Încredere, dar demonstrată. Ne uităm la controale, la caracteristici, la modul în care protejăm datele, la cum sunt accesate și la ce vizibilitate există pe întregul proces. Așadar, da, poți avea încredere în tehnologie, dar trebuie să demonstrezi acest lucru.

Întrebare: Securitate sau viteză de adopție?

Zdenek Romanek: Nu văd un compromis real în adoptarea noilor tehnologii. Dacă ne uităm la ce poate face AI pentru noi, există multe zone în bancă și în operațiunile noastre unde putem deja aplica AI, beneficiind de viteză și eficiență, fără niciun compromis în ceea ce privește încrederea pe care o oferim clienților noștri.

Întrebare: Tehnologie versus reglementare versus transparență

Zdenek Romanek: Tehnologia îți oferă capabilități noi; reglementarea îți oferă cadrul corect și un teren de joc echitabil; iar transparența îți oferă credibilitate și încredere. Nu este vorba de „una sau alta” – ai nevoie de toate trei, care să funcționeze împreună, pentru a livra valoare reală, la scară, pentru clienți reali, în operațiuni reale, în viața reală.

Cristian Popescu: Aș adăuga procese armonizate, care să lege toate aceste componente.

Întrebare: Acuratețe perfectă a AI sau confidențialitate perfectă?

Zdenek Romanek: AI nu este niciodată perfect, prin definiție, și ar trebui să anticipăm acest lucru. Asta trebuie să facă parte din design. Confidențialitatea, pe de altă parte, este ceva ce trebuie să gestionăm și să protejăm. Acea parte este nenegociabilă și așa guvernezi întreaga infrastructură, inclusiv componentele de AI din interiorul ei.

Cristian Popescu: Nu există un compromis între cele două. Confidențialitatea este nenegociabilă și trebuie să existe întotdeauna. În ceea ce privește AI-ul perfect, încercăm continuu să îl îmbunătățim. Dar, așa cum spuneam, este probabilistic, nu determinist, deci va continua să se îmbunătățească în timp.

Întrebare: Cum implementezi AI în companie?

Zdenek Romanek: Prin natura sa, atunci când AI greșește, greșește cu încredere. De aceea, totul se leagă de modul în care gestionezi procesele și infrastructura care includ AI. Trebuie să anticipezi că, dacă AI va greși, o va face cu încredere. Acest lucru trebuie abordat încă din faza de design: cum îl gestionezi și cum îl controlezi.

Cristian Popescu: O strategie clară de date este esențială pentru a avea succes cu AI. Trebuie să clasifici corect datele, să înțelegi cu ce lucrezi și cum trebuie gestionate. Pe lângă asta, ai nevoie de flexibilitate, de capacitatea de a absorbi noile evoluții care apar lunar sau chiar săptămânal. Nu ar trebui să te blochezi de la început într-o soluție rigidă, pentru că avansurile tehnologice pot aduce îmbunătățiri majore de performanță și eficiență a costurilor.

Zdenek Romanek: Pot dormi liniștit dacă profităm cu adevărat de AI, de viteza și progresul pe care le permite, având în același timp un cadru solid de guvernanță. Asta înseamnă că înțelegem cum ne gestionăm, monitorizăm și operăm proactiv infrastructura cu componente AI și că respectăm sistematic aceste reguli, zi de zi.

Cristian Popescu: Pentru a dormi liniștit, aș spune că este esențială supravegherea umană pe întregul lanț de furnizare al AI.

Zdenek Romanek: Deci trebuie să existe și alți oameni care stau treji și veghează (râde).

Când AI greșește

Întrebare: Ce se întâmplă dacă AI face o greșeală?

Cristian Popescu: Dacă există mecanisme solide prin care să învățăm din ce s-a întâmplat, nu aș renunța la AI. Dacă se întâmplă ceva critic și acest lucru demonstrează că nu există guvernanță, că nu există nicio modalitate de a extrage valoare sau lecții din incident, atunci aș lua serios în calcul o pauză.

Zdenek Romanek: Avem nevoie de capacitatea de a detecta greșelile din timp, de a ne recupera după ele și apoi de a avea un sistem care învață și reconfigurează imediat setarea sau procesul, pentru a preveni repetarea aceluiași tip de greșeală.

AI în banking

Întrebare: Supravegherea AI de către oameni – obligatorie într-o bancă?

Zdenek Romanek: Există anumite procese în care AI poate supraveghea AI singur, livrând în continuare rezultate de calitate foarte bună și mult mai rapid.

De exemplu, în extragerea de documente, extragerea de date, pregătirea lor și realizarea unor forme de manipulare – acestea sunt, de obicei, procese cu risc scăzut și adesea realizate de oameni astăzi, cu un anumit grad de eroare. AI, chiar și cu un grad de eroare, performează adesea mai bine. Iar AI cu supraveghere AI performează și mai bine.

Există, de asemenea, procese în care aș vedea cu siguranță un om implicat în mod sistematic în revizuire. Un astfel de proces, pentru mine, este consultanța financiară pentru clienții noștri.

Întrebare: CEO-ul are încredere în AI?

Zdenek Romanek: De exemplu, la începutul anului, lucrul cu AI agentic era ceva foarte nou pentru noi. Știam că vine o nouă abordare a AI. Acum suntem într-o poziție în care am dezvoltat platforma noastră internă agentică, am început să construim propriii noștri agenți și am văzut ce efect de multiplicare putem obține peste instrumentele noastre AI existente prin adăugarea unui strat agentic.

Private AI 

Întrebare: Private AI, obligatoriu sau „nice to have”?

Cristian Popescu: Depinde de industrie. Un studiu pe care l-am realizat anul trecut arată că aproape 60% dintre companiile europene nu au o înțelegere completă a EU AI Act și a responsabilităților ce derivă din acesta. Așadar, din perspectivă de reglementare, fiecare companie trebuie să-și evalueze situația și să decidă ce abordare este necesară pentru a rămâne conformă în industria sa.

CEO to CEO – Cum conduci AI la scară mare

Întrebare: Ce se întâmplă cu infrastructura atunci când AI se extinde?

Zdenek Romanek: Pe măsură ce AI este aplicată treptat la scară largă, cum vedeți riscurile potențiale pentru infrastructură, pentru infrastructura cloud? Este ceva ce s-ar putea schimba fundamental din cauza utilizării masive a AI?

Cristian Popescu: Începi prin construirea unei arhitecturi securizate și apoi integrezi componente AI în ea. Aceasta îți oferă securitate pe întreg stack-ul: infrastructura ta, aplicațiile existente și legacy, și cele noi bazate pe AI.

Întrebare: Ce înseamnă să fii un pionier AI ca CEO?

Cristian Popescu: Ești în prima linie a adoptării noilor tehnologii și faci același lucru cu AI. Cum se simte să fii pionier în regiune?

Zdenek Romanek: Nu sunt multe modele pe care să le observi și să le copiezi pur și simplu. Trebuie să ne găsim propria cale, cum să mergem înainte și cum să combinăm pragmatismul cu inovația și entuziasmul de a progresa. Dacă ar fi să rezum, este o călătorie captivantă de descoperire, dar și uneori înfricoșătoare, pentru că nu știi ce nu știi până nu începi să lucrezi cu asta, să înveți și să experimentezi.

Ce este foarte important pentru a merge înainte este să faci o distincție clară între a experimenta cu tehnologie nouă, inclusiv AI, și a o pune în operațiuni. Vrei să mergi rapid și să experimentezi rapid, dar odată ce o operaționalizezi, trebuie să fii foarte riguros.