La settimana scorsa, Google ha ampliato la disponibilità del modello 2.0 Flash, che offre supporto per l’output delle immagini native di Gemini, rendendolo accessibile a tutti gli sviluppatori. Questa novità ha destato grande interesse, ma ha anche sollevato preoccupazioni significative riguardo all’uso di questo strumento, che si è dimostrato particolarmente efficace nella rimozione delle filigrane da immagini pubblicate su vari portali di immagini stock.
Negli ultimi giorni, sono emerse numerose segnalazioni sulla sorprendente capacità del modello 2.0 Flash di Gemini, integrato in Google AI Studio. Questa funzionalità multi-modale di intelligenza artificiale consente a Gemini di ricevere immagini in input e modificarle in modo innovativo. Le testimonianze raccolte, in particolare da un utente su Reddit, hanno messo in luce come lo strumento sia stato in grado di rimuovere con facilità le filigrane da immagini stock provenienti da portali noti come Natezeman.com, Shutterstock e iStock, ripristinando il contenuto originariamente coperto.
Questo strumento, una volta eliminata la filigrana, non solo sostituisce il marchio originale con una filigrana che indica “modificato con IA“, ma ha anche dimostrato la capacità di aggiungere persone reali a fotografie esistenti. Un caso emblematico è stato segnalato su X, dove un utente ha richiesto a Gemini di inserire Elon Musk in una foto della sua scrivania, ottenendo un risultato sorprendente.
Le implicazioni dell’uso di questo strumento sono significative e potenzialmente problematiche. La capacità di rimuovere filigrane e di inserire soggetti reali nelle immagini solleva interrogativi etici e legali. La facilità con cui è possibile modificare contenuti visivi protetti da copyright potrebbe portare a un aumento delle violazioni dei diritti d’autore e a un uso improprio delle immagini.
Fortunatamente, attualmente il modello 2.0 Flash di Gemini è disponibile solo all’interno di Google AI Studio, una piattaforma utilizzata principalmente da sviluppatori e non ampiamente accessibile al pubblico generale. Questo status di “sperimentale” offre un certo grado di protezione, ma è lecito interrogarsi su quali misure Google adotterà in futuro per garantire un uso responsabile di questa tecnologia.
Con l’eventualità di un rilascio più ampio, è fondamentale che Google consideri l’implementazione di sistemi di protezione, come la restrizione della rimozione delle filigrane o l’aggiunta di persone reali nelle immagini, per mitigare i rischi associati a questa potente tecnologia. La comunità degli sviluppatori e gli esperti di etica dell’intelligenza artificiale continueranno a monitorare da vicino l’evoluzione di queste funzionalità e le loro conseguenze nel panorama digitale.