Mening Jeg hører stadig om bedrifter som ønsker å sparke sine kundesenteransatte og frontlinjeansatte så raskt som mulig og erstatte dem med AI. De er på forhånd om det.

Meta-sjef Mark Zuckerberg sa nylig selskapet bak Facebook sa opp ansatte "slik at vi kan investere i disse langsiktige, ambisiøse visjonene rundt AI." Det kan være et veldig dumt trekk. Bare spør Air Canada.

Air Canada fant nylig ut det på den harde måten når AI-chatboten gir et løfte til en kunde, må selskapet gjøre godt på det. Oops!

I Air Canadas tilfelle fortalte en virtuell assistent Jake Moffatt at han kunne få en sorgrabatt på sin allerede kjøpte flyreise fra Vancouver til Toronto på grunn av bestemorens død. Totalkostnaden for reisen uten rabatt: CA$1,630.36 760. Kostnad med rabatt: $XNUMX. Forskjellen kan være småpenger til et internasjonalt flyselskap, men det er ekte penger for vanlige folk. 

Den virtuelle assistenten fortalte ham at hvis han kjøpte en vanlig billett, ville han ha opptil 90 dager på seg til å kreve tilbake en sorgrabatt. En ekte Air Canada-representant bekreftet at han kunne få sorgrabatten.

Da Moffatt senere sendte inn refusjonskravet med nødvendig dokumentasjon, nektet Air Canada å betale ut. Det fungerte ikke bra for selskapet.

Moffatt tok virksomheten til domstolen for småkrav, og hevdet at Air Canada var uaktsom og hadde feilrepresentert sin policy. Air Canada svarte faktisk at "Chatboten er en egen juridisk enhet som er ansvarlig for sine egne handlinger."

Jeg tror ikke det!

Retten var enig. "Dette er et bemerkelsesverdig bidrag. Mens en chatbot har en interaktiv komponent, er den fortsatt bare en del av Air Canadas nettsted. Det burde være åpenbart for Air Canada at det er ansvarlig for all informasjon på nettsiden sin. Det spiller ingen rolle om informasjonen kommer fra en statisk side eller en chatbot."

Pengetilbudet for andre virksomheter å ta hensyn til fremover med sine AI-planer er: "Jeg synes at Air Canada ikke tok rimelig forsiktighet for å sikre at chatboten var nøyaktig."

Dette er ett tilfelle, og skadene var små. Air Canada ble pålagt å betale Moffatt tilbake refusjonen han skyldte. Likevel må bedrifter vite at de er like ansvarlige for at AI-chatbotene deres er nøyaktige som de er for sine ansatte av kjøtt og blod. Så enkelt er det.

Og gjett hva? AI LLM-er er ofte ikke riktige. De er ikke engang i nærheten. I følge en studie utført av ideelle organisasjoner AI Forensics og AlgorithmWatch, en tredjedel av Microsoft Copilots svar inneholdt faktafeil. Det er mange potensielle søksmål!

Som Avivah Litan, en fremtredende visepresidentanalytiker fra Gartner med fokus på AI, sa, hvis du lar AI-chatbotene dine være frontlinjen for kundeservice, din bedrift "vil ende opp med å bruke mer på advokatutgifter og bøter enn de tjener på produktivitetsøkninger.»

Advokat Steven A. Schwartz vet alt om det. Han stolte på ChatGPT for å finne tidligere saker for å støtte saken hans. Og Chat GPT fant tidligere tilfeller riktig nok. Det var bare ett lite problem. Seks av sakene han siterte eksisterte ikke. Den amerikanske distriktsdommeren P. Kevin Castel var ikke underholdt. Dommeren bøtelagt ham 5,000 dollar, men det kunne vært mye verre. Alle som gjør en lignende feil i fremtiden vil neppe møte en slik mildhet.

Nøyaktighet alene er ikke det eneste problemet. Fordommer bakt inn i dine store språkmodeller (LLMs) kan også bite på deg. De iTutorGroup kan fortelle deg alt om det. Dette selskapet tapte et søksmål på $365,000 XNUMX til US Equal Employment Opportunity Commission (EEOC) fordi AI-drevet rekrutteringsprogramvare automatisk avviste kvinnelige søkere på 55 år og eldre og mannlige søkere på 60 år og eldre.

Til dags dato, største feilen forårsaket av å stole på AI var det amerikanske boligeiendomsselskapet Zillows prisfeil for eiendom.

I november 2021 avviklet Zillow Zillow Offers-programmet. Dette AI-programmet rådet selskapet til å gi kontanttilbud for boliger som deretter ville bli renovert og snudd. Men med en median feilprosent på 1.9 prosent og feilprosent så høy som 6.9 prosent tapte selskapet alvorlige penger. Hvor mye? Prøv en lagernedskrivning på 304 millioner dollar bare i løpet av ett kvartal. Oh, og Zillow permitterte 25 prosent av arbeidsstyrken. 

Jeg er ikke en luddit, men den enkle sannheten er at AI ennå ikke er pålitelig nok for virksomheten. Det er et nyttig verktøy, men det er ingen erstatning for arbeidere, enten de er profesjonelle eller helpdesk-ansatte. Om noen år er det en annen historie. I dag ber du bare om problemer hvis du stoler på AI for å forbedre bunnlinjen. ®

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://go.theregister.com/feed/www.theregister.com/2024/02/23/opinion_column/