Kunstig intelligens, især generativ AI, lover fortsat enorme produktivitetsforbedringer til mange industrier, herunder bank og forsikring.
AI giver også mange udfordringer, som kommer til udtryk i dens tendens til at hallucinere. En anden er potentialet for misbrug. Dette kan stamme fra ubevidste skævheder i datatræningssæt, som resulterer i diskriminerende resultater for farvede personer. Det kan også afspejle, hvordan genAI-systemer er programmeret, som det fremgår af den seneste kerfuffle over "vågnede" billeder af paver eller andre historiske personer, der fremstår som alt andet end hvide mænd.
I de mest ekstreme tilfælde kunne kapitalforvaltere henvende sig til kunstig intelligens for forskning eller endda handel med porteføljer. Hallucinationer kunne ødelægge en virksomhed; som kunne forsøge at forklare en regulator, hvorfor en bot forårsagede et flashnedbrud.
Det er usandsynligt, at kunstig intelligens bliver frigivet på en så dramatisk måde, men den kan sættes i gang på mere subtile måder. Det er det faktisk allerede.
Banker, forsikringsselskaber og fintechs bruger allerede AI-værktøjer til at score kreditvurderinger eller tegne politikker. Branchen risikerer at være ude af stand til at forklare en utilfreds kunde, hvorfor de for eksempel fik afslag på et lån.
Det mere banale problem er, hvornår AI kan anvendes. For eksempel kan software bruges til at analysere en persons output på sociale medier for at bedømme deres mentale tilstand, hvilket kunne bruges til at prissætte et finansielt produkt. Dette rejser mange spørgsmål.
Bør virksomheder have lov til at overveje sådanne data? Hvis ikke, hvilke erstatninger vil de udforske for at få et overblik over en potentiel kunde? Hvad er privatlivets fred, og hvordan håndhæves det?
Reguler, tak
Det naturlige svar på sådanne spørgsmål er at inddrage tilsynsmyndighederne. Det er bedst at udvikle et neutralt sæt regler for at begrænse en virksomheds værste impulser. Det er også nemmere at lade regulatorerne gøre det tunge løft – og bevare friheden til at trække på skuldrene, hvis de ikke gør det.
Regulering er påkrævet, men er det nok? Måske, men kun hvis finansindustrien er tilfreds med at overlade innovationen til Big Tech og den nye race af AI-startups.
Når det kommer til AI, er virkeligheden, at regulatorer aldrig vil være i stand til at holde trit. Det er ikke en dårlig ting: Vi forventer, at innovation kommer fra den private sektor. Men arten af AI gør regulering vanskelig.
For det første er der få mennesker, der arbejder hos regulatorer, som har dyb ekspertise i maskinlæring og andre AI-værktøjer, endsige genAI.
For det andet kræver det at holde trit med denne verden styring af enorme arrays af GPU'er, grafikbehandlingsenheder, backbone-chipsene, der driver AI-applikationer, og hardwaren i datacentre, der udgør skyen.
AI-industrien inkluderer startups som OpenAI, Big Tech-spillere som Microsoft og Meta, chipspecialister som Nvidia og cloud-udbydere som AWS. Disse giganter har enestående enorme ressourcer, der samler de bedste talenter – og køber computerkraften til at køre AI-systemer.
Hverken tilsynsmyndigheder eller virksomheder kan sætte dagsordenen, så længe dette forbliver tilfældet.
Købekraft
Tilsynsmyndigheder kan forsøge at sætte regler – og det bør de, fordi de kan forme de grundlæggende normer – men de vil kæmpe med at håndtere nuancerne i, hvordan man forhindrer banker og andre i at misbruge AI-systemer.
Der er dog alternativer. Den ene er at se tilbage på, hvordan regeringer har hjulpet med at støtte deres innovationsøkonomier i de tidlige dage. For eksempel skylder Silicon Valley meget af sin succes til NASA's og det amerikanske militærs massive indkøbsprogrammer i 1950'erne og 1960'erne.
Tilsvarende er det kun regeringer, der har potentialet til at vade ind på markedet for AI-infrastruktur og købe GPU'er til deres egne forskningsprogrammer, der kan matche omfanget af Big Tech. Dette er en måde at sætte standarder på, gennem deltagelse og ledelse, i stedet for uendeligt at prøve at følge med ved at skrive flere regler.
Hvad med finansielle tjenesteydelser? Indtil videre er der ingen tegn på, at regeringer er parate til at spille denne rolle, hvilket efterlader andre industrier prisgivet Big Tech.
Lektionen ligner: Wall Street skal blive så vigtig en kunde for Big Tech, at den kan sætte standarder for, hvordan AI behandles.
Problemet er størrelsen. Ikke engang en JP Morgan har tyngden til at matche en Microsoft på denne arena. Det kunne aldrig retfærdiggøre omkostningerne.
Open source AI
Men hvad med branchen som gruppe? Er der en måde, hvorpå Big Finance – i ledtog med de førende fintechs rundt om i verden – kan samle ressourcer og blive en strategisk kunde?
Banker er ikke vant til at spille sammen. En sådan tilgang ville være helt fremmed.
På den anden side opvarmes bankerne langsomt til open source til udvikling af software. De erkender, at deling af kode for mange ikke-kernefunktioner – at være fællesskabsspillere i stedet for proprietære ejere – kan skabe bedre kvalitet og mere modstandsdygtig software.
Virker open source for genAI?
Svaret er uklart. Nogle store teknologier i dette rum har været åbne med deres udvikling, såsom Meta, som lader AI-startups downloade og tilpasse nogle af dets modeller.
Branchestandarder for open source kræver, at alle use cases er tilladt, men få genAI-startups opfylder faktisk disse kriterier. De fleste, inklusive det absurde navngivne OpenAI, driver en lukket butik.
Det er fordi genAI ikke er som andre kategorier af software. Kildekoden er kun én komponent. Lige så vigtigt er træningsdataene og hvordan disse data er kategoriseret. I dag er der ingen konsensus i AI-industrien om, hvad "open source" overhovedet betyder.
Her er åbningen for finansielle institutioner. Banker, børser og dataleverandører ejer tilsammen en kritisk masse af data, hvoraf meget er specifikt for kapitalmarkeder og finansielle tjenester. I teorien, hvis der var en mekanisme til at aggregere denne information, kunne der være grundlag for fælles udvikling af kode og de standarder, der følger med den.
Sælgere ville modstå enhver bevægelse, der ødelægger deres forretning; banker og forsikringsselskaber er ikke interesserede i at samarbejde om noget, der kan anses for kerne. På den anden side kan der være områder inden for finansielle tjenesteydelser, som for de fleste aktører ikke er kerne, og hvor en brancheløsning kunne være ønskelig. Digital identitet, compliance, rapportering og aspekter af risikostyring kommer alle til at tænke på.
DigFin ved, at dette er en meget spekulativ forestilling, som måske aldrig retfærdiggør den enorme indsats, der ville kræves for at få det til at ske. På den anden side, hvor vigtigt er det for finansindustrien at forme sin fremtid i stedet for passivt at vente på, at Silicon Valley gør det i stedet? Det er måske her, vi vender tilbage til ideen om regeringen som en stor kunde af AI. For at regeringen kan handle i denne egenskab, har den brug for sine egne programmer. Regulering af finansielle tjenester i AIs tidsalder virker som et godt sted at begynde.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://www.digfingroup.com/influence-ai/
