OpenAI ha accusato la New York Times Company di aver pagato qualcuno per "hackerare" ChatGPT per generare paragrafi letterali dagli articoli del suo giornale. Per hack, presumibilmente il biz significa: ho effettuato l'accesso normalmente e ho posto domande fastidiose.

A dicembre, il NYT ha citato in giudizio OpenAI e il suo sostenitore Microsoft, accusando i due di aver cancellato il sito web del giornale senza il permesso di addestrare modelli linguistici di grandi dimensioni. La causa includeva quella che si diceva fosse la prova che ChatGPT riproduceva interi passaggi di articoli del New York Times come risultato di richieste inviate dagli utenti.

L'editore ritiene che gli utenti della tecnologia OpenAI – che Microsoft sta applicando al suo impero software e cloud – potrebbero effettivamente aggirare il paywall del giornale e leggere articoli gratuitamente chiedendo al chatbot di tirare fuori pezzi di copertura, rovinando così il business con i soldi dell'abbonamento.

OpenAI, tuttavia, questa settimana ha risposto a tali affermazioni chiedendo alla corte [PDF] archiviare il caso. La startup ha affermato che le prove del broadsheet "sembrano essere stati sforzi estesi e prolungati per hackerare i modelli di OpenAI" e ha negato che ChatGPT possa distrarre le persone dai paywall, aggiungendo che le persone non usano comunque il chatbot per leggere gli articoli pubblicati.

"Nel mondo reale, le persone non utilizzano ChatGPT o qualsiasi altro prodotto OpenAI per tale scopo", ha affermato il super laboratorio. «Neanche loro potrebbero. Normalmente non è possibile utilizzare ChatGPT per pubblicare articoli del Times a piacimento." Invece, i suoi avvocati hanno sostenuto che il NYT aveva abusato del suo chatbot inducendo il software a rigurgitare alcuni dati di addestramento, un'impresa apparentemente al di là delle capacità di tutti gli altri, esclusi i subdoli ingegneri del Times.

"La verità, che verrà fuori nel corso di questo caso, è che il Times ha pagato qualcuno per hackerare i prodotti di OpenAI... Sono riusciti a farlo solo prendendo di mira e sfruttando un bug (che OpenAI si è impegnata a risolvere) utilizzando metodi ingannevoli richieste che violano palesemente i termini di utilizzo di OpenAI", ha affermato OpenAI per ritorsione.

OpenAI ha affermato che sono stati necessari decine di migliaia di tentativi prima che ChatGPT generasse passaggi di testo letterale.

L'avvocato principale del NYT e partner dello studio legale Susman Godfrey, Ian Crosby, ha definito le accuse di hacking "bizzarre", in una nota a Il registro.

"Ciò che OpenAI definisce erroneamente come 'hacking' è semplicemente l'utilizzo dei prodotti OpenAI per cercare prove che abbiano rubato e riprodotto le opere protette da copyright del Times", ha affermato. “Ed è esattamente ciò che abbiamo scoperto. In effetti, la portata della copia di OpenAI è molto più ampia degli oltre 100 esempi indicati nella denuncia."

Cosiddetto “iniezione tempestiva” Gli attacchi consentono di aggirare i guardrail che mirano a impedire che modelli linguistici di grandi dimensioni come ChatGPT producano contenuti illegali o indesiderati. Sembra che OpenAI abbia accusato il Times di utilizzare tali attacchi.

Crosby, nel frattempo, ha sostenuto che le accuse di OpenAI contro il NYT confermano che il laboratorio gestito da Sam Altman monitora le richieste di input degli utenti e le risposte di output. Ad essere onesti, questo non è sorprendente: dopo tutto, il nuovo arrivato proprio l'altra settimana si è vantato di averlo notato e cestinato A suo avviso, Cina, Iran, Russia e Corea del Nord hanno abusato della sua serie di modelli generativi.

Notiamo l'OpenAI politica sulla riservatezza afferma che l'azienda monitorerà le domande delle persone e l'utilizzo dei propri servizi per vari motivi, tra cui (a seconda del impostazioni e piano di pagamento) potenzialmente formando modelli futuri.

Detto questo, l'avvocato del NYT Crosby non è impressionato. “La risposta di OpenAI mostra anche che sta monitorando le richieste e gli output degli utenti, il che è particolarmente sorprendente dato che hanno affermato di non farlo. Non vediamo l’ora di esplorare la questione in fase di scoperta”, ha affermato.

Crosby ha anche contestato alla corte la tesi del produttore di ChatGPT secondo cui il giornale ha impiegato troppo tempo per presentare un reclamo e la posizione generale del laboratorio secondo cui non ha fatto nulla di male.

“OpenAI, che è stata riservata e ha deliberatamente nascosto il funzionamento dei suoi prodotti, ora afferma che è troppo tardi per presentare un reclamo per violazione o ritenerli responsabili. Non siamo d'accordo. È interessante notare che OpenAI non contesta di aver copiato i lavori del Times senza autorizzazione entro i termini di prescrizione per addestrare i suoi modelli più recenti e attuali."

Il registro ha chiesto a OpenAI ulteriori commenti. ®

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/02/28/openai_nyt_lawsuit/