Ako koristite AI za ESG izvještavanje, ko je pravno odgovoran?

Vještačka inteligencija može ubrzati izvještavanje o održivosti. Ne prenosi odgovornost.

Menadžment je potpisao izjave.

Izvještaj o održivosti pripremljen je uz pomoć AI-ja. Podaci su objedinjeni, analizirani i formatirani automatizovanim sistemom. Upravni odbor je odobrio izvještaj. Uprava je potpisala izjave. Šest mjeseci kasnije, tokom angažmana na provjeri, postavljeno je jedno pitanje.„Ko je validirao ovaj rezultat prije nego što je objavljen?“ Niko nije imao jasan odgovor. Ne zato što je AI zakazao. Već zato što niko nije definisao ko ostaje odgovoran za ono što je AI proizveo. Ta razlika postaje jedno od najvažnijih pitanja korporativnog upravljanja s kojima će se organizacije suočiti.

Pitanje koje niko ne postavlja

Organizacije usvajaju AI alate za ESG izvještavanje nevjerovatnom brzinom. Objedinjavanje podataka. Procjene materijalnosti. Generisanje narativa. Analiza nedostataka. Dobici u efikasnosti su neosporni.

Jaz u upravljanju raste jednako brzo. Loše upravljanje AI-jem više nije samo pravna izloženost. Postaje i komercijalna. Investitori sve više ispituju kvalitet upravljanja. Kupci sve češće pitaju kako se informacije o održivosti proizvode. Stručnjaci za provjeru sve više očekuju da organizacije mogu dokazati da su rezultati dobijeni uz pomoć AI-ja ostali pod stvarnom ljudskom kontrolom. Većina organizacija i dalje tretira AI kao alat za produktivnost. Regulatori sve više očekuju da organizacije dokažu da odluke podržane AI-jem ostaju podložne efikasnom upravljanju i dokumentovanom ljudskom nadzoru. Pravno pitanje više nije da li je AI korišćen. Već da li je njegova upotreba bila uređena. Ta razlika je važna. Alat može zakazati. Propust u upravljanju pripada ljudima.

Gdje EU AI Act mijenja razgovor

EU AI Act signalizira širi regulatorni pravac. Tamo gdje AI sistemi potpadaju pod njegov obuhvat, od organizacija se očekuje da uspostave smislen ljudski nadzor koji je dokumentovan, operativan i dodijeljen kompetentnim osobama. Čak i kada određena ESG AI aplikacija ne potpada pod klasifikaciju visokog rizika iz Akta, pitanje upravljanja ostaje izuzetno slično. Ako AI doprinosi korporativnim objavama, organizacije bi trebalo da mogu pokazati: Ko je pregledao rezultat. Ko je razumio njegova ograničenja. Ko je primijenio nezavisno profesionalno rasuđivanje. Ko je preuzeo odgovornost prije oslanjanja na njega. To očekivanje ne zavisi isključivo od toga da li se primjenjuje konkretna pravna obaveza. Ono odražava širi princip upravljanja koji organizacije sve teže mogu ignorisati. Ponekad je jedno pitanje stručnjaka za provjeru, regulatora ili investitora dovoljno da otkrije da li takvo upravljanje zaista postoji.

Gdje se ESG i odgovornost za AI susreću

Objave o održivosti nijesu neutralni dokumenti. One su izjave o upravljanju upućene investitorima, regulatorima, kupcima i tržištu.
Kada AI doprinosi tim izjavama — bilo objedinjavanjem podataka, generisanjem narativa ili podrškom procjenama materijalnosti — pitanje odgovornosti ne nestaje. Samo mijenja pravac. Pomjera se prema ljudima koji su odabrali tehnologiju. Prema onima koji su pregledali rezultat. Prema onima koji su odobrili objavu. Prema Corporate Sustainability Reporting Directive, izvještavanje o održivosti postalo je dio korporativnog upravljanja, a ne samo operativni proces izvještavanja. EU AI Act dodatno potvrđuje drugi princip: tehnologija ne uklanja ljudsku odgovornost. Zajedno, ovi razvojni pravci otkrivaju jaz u upravljanju koji mnoge organizacije još nijesu prepoznale.

Jaz u upravljanju koji je malo organizacija zatvorilo

Većina organizacija koje koriste AI u ESG izvještavanju nije odgovorila na tri osnovna pitanja. Ko je odgovoran za validaciju ESG rezultata dobijenih uz pomoć AI-ja prije objave? Koje kompetencije ta osoba mora imati da bi vršila smislen nadzor. Kako je taj pregled dokumentovan na način koji može izdržati provjeru, regulatorni nadzor ili pravni spor? Bez jasnih odgovora, rizikom AI-ja se nije upravljalo. On je samo prenesen u proces bez jasno utvrđene odgovornosti. Iz pravne perspektive, odgovornost prati donosioca odluke — a ne instrument koji je korišćen za donošenje odluke. AI mijenja proces. Ne mijenja taj princip. A kada nadzor počne, odgovornost se uvijek vraća ljudima koji su odobrili ishod. Nikada ne ostaje na tehnologiji.

Dimenzija upravnog odbora

Upravni odbori koji odobravaju izvještaje o održivosti sve se više suočavaju s pitanjem upravljanja, a ne tehnologije.
Odobravanje izvještaja o održivosti nije samo autorizacija dokumenta. To je potvrda da su informacije u tom dokumentu generisane, pregledane i očuvane kroz proces koji organizacija razumije — i koji može odbraniti. Ako je AI doprinio tom procesu, ali upravljanje njegovom upotrebom nikada nije bilo jasno definisano, dokumentovano ili nadzirano, upravnom odboru može biti teško da dokaže zašto je oslanjanje na te rezultate bilo razumno. EU AI Act ne stvara odgovornost za upravljanje. On čini postojeća očekivanja u pogledu upravljanja vidljivijim.

Zašto je ovo i ekonomsko pitanje

Slabo upravljanje AI-jem ne povećava samo pravnu izloženost. Ono utiče na poslovnu vrijednost.

Organizacija koja ne može dokazati kontrolu nad informacijama o održivosti dobijenim uz pomoć AI-ja može se suočiti sa:

većim troškovima provjere
sporijim procesima nabavke
smanjenim povjerenjem investitora
pojačanim regulatornim nadzorom
smanjenom vjerodostojnošću kod kupaca i poslovnih partnera

Povjerenje je postalo ekonomska vrijednost. Upravljanje sve više predstavlja mehanizam kroz koji se to povjerenje stiče.

Šta odgovornost zapravo zahtijeva

AI može ubrzati ESG izvještavanje. Ne može zamijeniti upravljanje. Niti može zamijeniti dokaze.

Odgovorno ESG izvještavanje uz pomoć AI-ja zahtijeva:

dokumentovani ljudski nadzor koji identifikuje ko pregledava rezultate AI-ja, sa kojim kompetencijama i pod kojim ovlašćenjem
dokaze koji pokazuju da je AI djelovao u okviru kontrolisanog procesa upravljanja, umjesto da zamjenjuje informisano ljudsko rasuđivanje
strukture upravljanja koje mogu pokazati da je svaka materijalna izjava o održivosti pregledana, osporena i odobrena prije objave

Tehnologija može generisati informacije. Samo upravljanje pretvara informacije u nešto što organizacije mogu odgovorno objaviti.

Pitanje koje svaki upravni odbor treba postaviti

Ako bi sjutra stručnjak za provjeru, regulator ili investitor osporio jednu izjavu u vašem izvještaju o održivosti koja je nastala uz pomoć AI-ja, da li bi vaša organizacija mogla pokazati:
Ko ju je pregledao? Kako je pregledana? Zašto se smatrala dovoljno pouzdanom? Ko je preuzeo odgovornost prije nego što je objavljena? Ako je odgovor neizvjestan, problem nije AI. Problem je arhitektura upravljanja koja ga okružuje. Jer u pravu odgovornost ne prati alat. Ona prati odluku da se alat koristi.

PROOFA™ Evidence Architecture™

Vještačka i PROOFA™ Evidence Architecture™

Vještačka inteligencija ne smanjuje potrebu za dokazima. Ona je povećava.

PROOFA™ Evidence Architecture™ razvijen je kao prvi pravni operativni instrument koji integriše forenzičku metodologiju, ESG upravljanje, Legal Design Thinking i arhitekturu dokaza u jedinstveni okvir odbranjivosti.

To nije okvir za upravljanje AI-jem. Ne reguliše vještačku inteligenciju. On strukturira ljudsku odgovornost, integritet dokaza i arhitekturu upravljanja koja mora postojati prije nego što informacije dobijene uz pomoć AI-ja postanu dio korporativnog izvještavanja o održivosti.

Jer organizacije na kraju neće biti procjenjivane prema tome da li su koristile AI. Biće procjenjivane prema tome da li mogu dokazati ko je ostao odgovoran nakon što su ga koristile.

Ovaj članak razmatra pitanja upravljanja koja proizlaze iz susreta izvještavanja o održivosti uz pomoć AI-ja i novih evropskih regulatornih okvira. Reference na EU AI Act odražavaju njegov širi pravac u pogledu upravljanja i ne treba ih tumačiti kao tvrdnju da je svaka AI aplikacija koja se koristi u ESG izvještavanju automatski klasifikovana kao AI sistem visokog rizika prema tom Aktu.

Ostali blogovi

Posted By Mehmed