Federal Trade Commission (FTC) lupaa 25,000 XNUMX dollarin palkkion parhaasta ratkaisusta taistella tekoälyn äänen kloonauksen kasvavaa uhkaa vastaan.

Joskus äänen syväväärennöksiksi kutsuttujen verkkopalveluiden määrä, jotka tarjoavat helppokäyttöisiä äänen kloonauspalveluita, on lisääntynyt generatiivisen tekoälyn yleistymisen jälkeen, mikä on herättänyt huolta sen mahdollisista väärinkäytöksistä kyberhyökkäyksissä.

Esimerkiksi laajalle levinnyt uhka voi sisältää toimitusjohtajien äänen huijaamista heidän esiintymisenä ja talousosaston ohjeistamista ohjaamaan rahaa hyökkääjän tilille. Ystäviä ja perheitä voidaan myös huijata lähettämään rahaa läheisilleen esiintyviä taiteilijoita Heidän toimeentulonsa voivat olla uhattuina, jos teknologia kehittyy edelleen.

Asianomaisilla osapuolilla on tammikuun 12. päivään asti aikaa lähettää ideoitaan tekoälypohjaisten puhekloonauspetosten torjumiseksi keskittyen pääasiassa teknologian ehkäisyyn, seurantaan ja arviointiin.

"Tämä pyrkimys voi auttaa edistämään ideoita riskien lieventämiseksi alkupäässä – suojaamalla kuluttajia, luovia ammattilaisia ​​ja pienyrityksiä äänen kloonauksen haittoja vastaan ​​ennen kuin haitta saavuttaa kuluttajan", FTC sanoi. 

”Se voi myös auttaa edistämään ideoita riskien vähentämiseksi kuluttajatasolla. Ja jos toteuttamiskelpoisia ideoita ei esiinny, tämä lähettää kriittisen ja varhaisen varoituksen poliittisille päättäjille, että heidän tulisi harkita tiukempia rajoituksia tämän teknologian käytölle, koska haasteena on estää sovellusten haitallinen kehitys markkinoilla.

Hakemuksia arvioidaan sen perusteella, kuinka toteutettavissa ja hallittavissa olisi, kuinka kestävä se on teknisiä muutoksia vastaan ​​ja kuinka harkiten pohditaan muun muassa yritysten vastuun ja vastuun asettamista.

Pääpalkinto on 25,000 XNUMX dollaria, mikä ei kuulosta kultakaivokselta, kun otetaan huomioon nerokkaan ratkaisun mahdolliset laajat sovellukset.

Yksi toiseksi sijoittunut saa myös 4,000 2,000 dollaria, kolme kunniamainintaa saavat kukin 10 XNUMX dollaria heidän ongelmistaan, ja vähintään XNUMX hengen organisaatiot saavat rahattoman tunnustuspalkinnon.

AI-äänen väärinkäyttö toiminnassa

Tekoälypuheen kloonauksen tehokkuus on todistettu toistuvissa tapauksissa viimeisen vuoden aikana. Asiantuntijat Slovakian tietoturvaliikkeessä ESET osoittivat miten edellä mainittu esimerkki huijareista toimitusjohtajista voidaan vetää esiin.

Itse asiassa se on ollut ongelma vuosia ennen kuin generatiivinen tekoäly tuli keskivertoihmisen käsiin. Iso-Britannian energiayhtiö oli 243,000 XNUMX dollaria tyhjennetty vuonna 2019 sen jälkeen, kun sen toimitusjohtajaa kehotettiin lähettämään suuri summa unkarilaiselle toimittajalle.

New York Times raportti, jälleen edellisten 12 kuukauden ajalta, kuvaili useita tapauksia, jotka on kohdistettu menestyksekkäästi rahoitusalaan ja huijasivat pankkeja siirtämään rahaa sellaisilta, joiden uskoivat olevan todellisia asiakkaita. El Reg on myös raportoinut vastaavista Yhdistyneissä arabiemiirikunnissa tapahtuvat hyökkäykset jo vuonna 2021.

Myös romantiikkahuijaukset ovat yleisiä, ja yksi britti on ihastunut huijasi Kevin Costner, ja rikolliset ovat myös osoittaneet, etteivät he ole toimeenpanon yläpuolella "perheen hätähuijaukset". – sellaisia, jotka kohdistuvat vanhempiin lastensa kloonatuilla äänillä, jotka pyytävät rahaa esimerkiksi takuita varten.

Lisää: ikäviä esimerkkejä ovat nähneet äitien ottavan puheluita tyttärillään oletettavasti "sieppaajien" panttivankina vaativien valtavia lunnaita.

Äänen kloonaus on mahdollista syöttämällä tekoälymalliin tarpeeksi harjoitusdataa, jotta se voi ymmärtää äänen, sävyn, tahdistustahdin, taivutuksen ja muut yksilön äänen vivahteet. Julkkisten ja muiden julkisuuden henkilöiden uskotaan olevan akuutissa vaarassa joutua näihin hyökkäyksiin, kun otetaan huomioon heidän verkossa olevien äänitallenteiden määrä.

Sosiaalisen median ja videosisällönluontikulttuurin nousun myötä monilla ei-julkkiksilla ja jopa lapsilla on myös tarpeeksi materiaalia verkossa kouluttaakseen mallin tehokkaasti.

Kasperskyn tutkijat tarkastelivat tekoälyn puhekloonauksen kasvua viime vuonna ja löysivät laajan valikoiman vapaasti saatavilla olevia avoimen lähdekoodin työkaluja, jotka voivat tuottaa kloonattuja ääniä tekoälytekniikan avulla. He kuitenkin väittivät, että vakuuttavan kloonin saaminen käyntiin vaati hieman Python-osaamista ja jonkin verran puuhailua kloonaajalta.

Maksulliset tarjoukset ovat kuitenkin yleensä paljon tehokkaampia. Tutkijat viittasivat Microsoftin VALL-E malli joka voisi oletettavasti tuottaa kunnollisen kloonin vain kolmen sekunnin puheäänellä, jota käytetään harjoitustietona.

Tarjolla on myös muita maksullisia ratkaisuja, jotka toimivat paremmin kuin ilmaiset, mutta nämä ovat vielä vasta kehitysvaiheessa, joten voimme odottaa näiden mallien tarkkuuden ja tehokkuuden paranevan ajan myötä. ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/