OpenAI sospende l’account di ByteDance per uso illecito della sua AI

Pessime notizie per ByteDance. Secondo quanto riportato da Business Insider e altre fonti autorevoli del settore, OpenAI ha scelto di sospendere l’account della società madre di TikTok dopo che un rapporto pubblicato da The Verge ha rivelato che il colosso cinese stava utilizzando la sua tecnologia per sviluppare il proprio modello linguistico di grandi dimensioni (LLM). Un tentativo alquanto goffo di guadagnare terreno in un settore in cui ByteDance risulta essere alquanto indietro, ma che ha finito con il portare la società a violare i termini di servizio di OpenAI, che affermano chiaramente che l’output del suo modello non può essere utilizzato “per sviluppare modelli di intelligenza artificiale che competono”.

Nonostante la compagnia fosse a conoscenza di queste limitazioni, i documenti interni rivelano che ha comunque fatto affidamento sull’API – interfaccia di programmazione delle applicazioni – di OpenAI per sviluppare il modello “Project Seed” in ogni singola fase della sua progettazione, inclusa la formazione e la valutazione del modello. Anzi, come se non bastasse, il rapporto di The Verge fa notare che i dipendenti di ByteDance erano consapevoli dell’uso illecito che la compagnia stava facendo della tecnologia di OpenAI. Alcune comunicazioni su Lark, la piattaforma interna della società cinese, riportano informazioni ben dettagliate su come “cancellare” le prove attraverso la “desensibilizzazione dei dati”, il che dimostra che la violazione dei termini di servizio di OpenAI è avvenuta in modo del tutto consapevole.

Soltanto quando le autorità di regolamentazione cinesi hanno approvato Doubao, il chatbot di proprietà di ByteDance, la società ha invitato i suoi dipendenti a smettere di utilizzare l’API di OpenAI per sviluppare il proprio LLM – anche se pare che la tecnologia sia ancora usata per valutare le prestazioni del proprio chatbot -. Eppure, questo non è bastato per evitare che la compagnia finisse nel mirino di OpenAI, che ha scelto di sospendere temporaneamente l’account di ByteDance. “Sebbene l’utilizzo della nostra API da parte di ByteDance sia stato minimo, abbiamo sospeso il loro account mentre effettuiamo ulteriori accertamenti – ha dichiarato il portavoce Niko Felix a The Verge -. Se scopriamo che il loro utilizzo non segue queste politiche, chiederemo loro di apportare le modifiche necessarie o di chiudere il loro account”.

Di tutta risposta, ByteDance ha negato qualsiasi illecito e ha dichiarato di aver ricevuto da Microsoft la licenza di utilizzare l’API Gpt “per alimentare prodotti e funzionalità nei mercati non cinesi”. Ma questa dichiarazione stride con i documenti portati all’attenzione pubblica da The Verge, il che lascia gli esperti di settore abbastanza perplessi. Nel frattempo, la società madre di TikTok si prepara per entrare a tutti gli effetti nel settore dell’intelligenza artificiale, ma bisogno aspettare di vedere di chi sarà il merito di questa novità.

Fonte : Wired