AI-selskabet Anthropic har hyret konsulentgiganten Accenture til at teste selskabets kunstige intelligens for sikkerhedsrisici. Det bekræfter både Financial Times og CNBC, som begge har talt med parterne bag aftalen.
PROSe insiderhandler i realtid – få besked, når direktører køber aktier.Opret gratis bruger →Læs mere: Accenture Aktie (ACN): kurs, analyse og købsguide
Anthropics topchef Dario Amodei siger ifølge Financial Times, at AI-laboratorier bør inddrage uafhængige testere langt mere i udviklingen af deres modeller. Baggrunden er en stigende bekymring for, hvad teknologien kan komme til at forårsage, hvis den udvikler sig ukontrolleret.
Accenture bliver første indlejrede evaluator
Ifølge CNBC er Accenture det første selskab, der får rollen som såkaldt indlejret evaluator hos Anthropic. Det betyder, at konsulenthuset skal arbejde tæt sammen med udviklerne under selve udviklingsprocessen frem for kun at gennemgå modellerne, efter de er færdige.
Samarbejdet skal ifølge CNBC være et konkret skridt i retning af det, Amodei tidligere har foreslået: at bremse tempoet i AI-udviklingen for at give plads til grundigere sikkerhedstjek. Investing.com oplyser desuden, at Anthropic og Accenture sammen investerer 2 milliarder dollar i evaluering af AI-modeller.
Voksende pres på AI-branchen
Aftalen kommer, mens både Anthropic og konkurrenten OpenAI er under skarpt tilsyn fra forskere og lovgivere. Flere har advaret om, at fremtidige AI-systemer i værste fald kan udgøre en alvorlig trussel, hvis de ikke overvåges tilstrækkeligt, skriver CNBC.
Anthropic har positioneret sig som det AI-selskab, der taler mest højlydt om sikkerhed blandt de store aktører i branchen. Ved at bruge et etableret konsulenthus som Accenture til ekstern kontrol forsøger selskabet at signalere, at det tager kritikken alvorligt frem for blot at teste sine egne modeller internt.
Relevant for Accenture-aktionærer
For investorer i Accenture-aktien er samarbejdet interessant, fordi det placerer konsulentselskabet centralt i en ny type forretningsområde: sikkerhedsevaluering af AI. Accenture har allerede en stor rådgivningsforretning inden for teknologi, og en rolle som fast samarbejdspartner for et af de mest omtalte AI-laboratorier kan på sigt styrke selskabets position i det felt.
Det er dog værd at huske, at hverken Anthropic eller Accenture har oplyst, hvor stor en del af de nævnte 2 milliarder dollar der konkret går til selve testarbejdet, eller hvor længe aftalen løber. Anthropic er ikke selv børsnoteret, så det er i praksis kun gennem Accenture-aktien, private investorer kan få direkte eksponering mod samarbejdet.
Læs også: Splid om AI-tempo: Anthropic vil bremse, Nvidia vil speede op ved Dreamforce
Amodei har tidligere foreslået en generel opbremsning i AI-udviklingen for at sikre bedre kontrol med risici. Aftalen med Accenture er det første konkrete tiltag, der knytter sig til det forslag.