SynthID è un nuovo strumento di Google che ti permette di rilevare l’uso della IA nella generazione di video, immagini e testo. Martedì Google ha lanciato un nuovo sito che permette a chiunque di verificare se un contenuto multimediale, che si tratti di un’immagine, un video o un file audio, è stato generato utilizzando l’intelligenza artificiale. L’azienda ha reso disponibile questo strumento a un gruppo selezionato di giornalisti, professionisti dei media e ricercatori per i test durante il Google I/O dello scorso anno, e ora ne sta estendendo l’accesso a tutti. Il sito supporta i formati JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF e GIF per le immagini. MP4, MOV e WEBM per i video e WAV, MP3, OGG, FLAC, AAC e M4A per l’audio.
SynthID: scopriamolo insieme
SynthID è il sistema di watermarking invisibile di Google DeepMind, originariamente creato per i prodotti di intelligenza artificiale di Google come Gemini e Imagen, e ora adottato anche da OpenAI per la generazione di immagini ChatGPT. A differenza di un timbro visibile o di un tag di metadati, SynthID incorpora la sua firma a livello di generazione, all’interno dei valori dei pixel, degli spettrogrammi audio o delle distribuzioni di probabilità dei token. Il risultato è un contenuto che appare completamente normale a un essere umano, ma che contiene un’identità nascosta e leggibile dalla macchina.
Google utilizza SynthID, introdotto nel 2023 , per identificare se i contenuti multimediali sono stati generati dall’intelligenza artificiale. I modelli Nano Banana, Veo e Lyria dell’azienda, così come gli strumenti con funzionalità di generazione, come Gemini, Flow, ProducerAI e Vids, utilizzano tutti SynthID per apporre una filigrana digitale su qualsiasi contenuto multimediale generato.
Anche OpenAI, Nvidia e Kakao supportano SynthID, e OpenAI gestisce un proprio sito per la verifica dei contenuti. Si dice che anche Apple aggiungerà presto il supporto. Google ha integrato la verifica SynthID nell’app Gemini e in Google Chrome. L’azienda ha dichiarato che attualmente ogni giorno vengono effettuate un milione di richieste di verifica dei contenuti. Microsoft e Meta hanno i propri standard per l’applicazione di watermark e la verifica dei contenuti. Tuttavia, questi strumenti non sono infallibili e spesso non riescono a identificare i contenuti creati dai rispettivi autori.
Rileva le filigrane invisibili generate dall’IA
Un segnale invisibile a livello di pixel, incorporato direttamente in ogni immagine al momento della sua generazione. Resiste a screenshot, compressione JPEG, ridimensionamento e ritaglio, risultando significativamente più robusto dei soli metadati. OpenAI è diventato un generatore conforme a C2PA, allegando metadati firmati ai contenuti che ne registrano l’origine, il metodo di creazione e l’editore. C2PA fornisce maggiori dettagli, SynthID ne fornisce altri ancora: i due livelli lavorano insieme.
Le filigrane SynthID sono ora presenti su due dei più grandi generatori di immagini basati sull’intelligenza artificiale al mondo. Tuttavia, il testo di ChatGPT non è ancora protetto da SynthID, e i contenuti di Midjourney, Stable Diffusion e della maggior parte degli altri generatori rimangono privi di filigrana. È qui che il nostro sistema di rilevamento basato sull’analisi colma questa lacuna.
Come funziona su immagini, testo e video in pratica?
Il sistema di rilevamento utilizza modelli statistici e semantici per stimare la probabilità che un contenuto sia generato dall’intelligenza artificiale. Funziona con tutti i generatori di IA e non si basa sulla filigrana di alcun fornitore, né la legge.
Incolla del testo, carica un’immagine o trascina un file audio. Il sistema accetta tutti i formati più comuni: JPEG, PNG, MP3, WAV e molti altri. Per le immagini, eseguono analisi nel dominio della frequenza e analisi degli artefatti, oltre a controlli sui metadati C2PA dove siano presenti. Per il testo, analizzano la distribuzione dei token e altri segnali statistici tipici della generazione tramite intelligenza artificiale.
I segnali vengono confrontati con i loro modelli di rilevamento basati sull’intelligenza artificiale, pertanto i contenuti provenienti da qualsiasi generatore (Gemini, ChatGPT, Midjourney, Claude, ecc.) vengono valutati, indipendentemente dalla presenza o meno di una filigrana. Infine, si ottiene un risultato chiaro, che indica se è stato generato dall’IA o se è stato scritto da un essere umano, con un punteggio di affidabilità.
