OpenAI utvikler AI-drevne cybersikkerhetsevner for det amerikanske militæret, og skifter valgsikkerhetsarbeidet til høygir, sa laboratoriets ledere til World Economic Forum (WEF) i Davos denne uken.
Offentligheten om å jobbe med de væpnede styrkene kommer dager etter en endring i OpenAIs policy-språk, som tidligere forbød bruk av sine generative AI-modeller for «militære og krigføring»-applikasjoner, samt «generering av skadelig programvare» med teknologien. Disse begrensningene har nå forsvunnet fra ChatGPT-produsentens fine print. Når det er sagt, understreket superlaboratoriet at teknologien fortsatt ikke er ment å brukes til vold, ødeleggelse eller kommunikasjonsspionasje.
"Vår policy tillater ikke at verktøyene våre brukes til å skade mennesker, utvikle våpen, for kommunikasjonsovervåking, eller for å skade andre eller ødelegge eiendom," sa en talsperson for OpenAI Registeret i dag.
"Det er imidlertid tilfeller av bruk av nasjonal sikkerhet som stemmer overens med vårt oppdrag.
"Vi jobber allerede med DARPA for å stimulere til etableringen av nye cybersikkerhetsverktøy for å sikre åpen kildekode-programvare som kritisk infrastruktur og industri er avhengig av. Det var ikke klart om disse fordelaktige brukstilfellene ville vært tillatt under «militær» i våre tidligere retningslinjer. Så målet med vår policyoppdatering er å gi klarhet og muligheten til å ha disse diskusjonene.»
På tirsdag, under en intervju på WEF shindig for verdens ledere sa OpenAI VP of Global Affairs Anna Makanju at partnerskapet med Pentagon inkluderer utvikling av åpen kildekode cybersecurity-programvare. OpenAI starter også samtaler med den amerikanske regjeringen om hvordan teknologien kan bidra til å forhindre veteran-selvmord, sa hun.
"Fordi vi tidligere hadde det som egentlig var et generelt forbud mot militære, trodde mange at det ville forby mange av disse brukstilfellene, som folk tror er veldig på linje med det vi ønsker å se i verden," sa Makanju.
Til tross for fjerning av «militær og krigføring» sammen med andre «ikke-tillatte bruk» for ChatGPT, sa Makanju imidlertid at OpenAI opprettholder forbudet mot å bruke modellene sine til å utvikle våpen for å skade mennesker.
Også under det samme intervjuet sa OpenAI-sjef Sam Altman at biz tar skritt for å sikre at dets generative AI-verktøy ikke brukes til å spre valgrelatert desinformasjon.
Det følger også en lignende push av Microsoft, OpenAIs største investor, som i november kunngjorde en fem-trinns valgbeskyttelsesstrategi for «USA og andre land der kritiske valg vil finne sted i 2024».
"Det er mye som står på spill i dette valget," sa Altman tirsdag.
Dette kommer en dag etter USAs tidligere president Donald Trumps stor seier på partimøtet i Iowa mandag.
Og alle disse emnene – AI, nettsikkerhet og desinformasjon – spiller fremtredende roller på dagsordenen som verdens ledere møtes denne uken i Davos.
I følge WEFs Global Risk Report 2024, publisert i forrige uke, er "feilinformasjon og desinformasjon" den største kortsiktige globale risikoen, med "cyberusikkerhet" som nummer fire.
Fremveksten av generativ AI forverrer disse utfordringene, med 56 prosent av lederne undersøkt ved WEFs Årsmøte for cybersikkerhet i november 2023 sier generativ AI vil gi angripere og fordel over forsvarere i løpet av de neste to årene.
"Spesielt bekymring rundt bruken av AI-teknologier for å øke cyberkrigføringsevnene, med god grunn," sa Bernard Montel, EMEA teknisk direktør i Tenable, til Registeret.
"Selv om AI har gjort astronomiske teknologiske fremskritt de siste 12 til 24 månedene, er det uforståelig i dag å la en autonom enhet foreta den endelige dommen," la han til.
"Selv om AI er i stand til raskt å identifisere og automatisere noen handlinger som må iverksettes, er det viktig at det er mennesker som tar kritiske beslutninger om hvor og når de skal handle ut fra intelligensen AI gir." ®
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://go.theregister.com/feed/www.theregister.com/2024/01/16/us_military_openai/
