'Wall-E met een pistool': Midjourney genereert video's van Disney-personages te midden van enorme auteursrechtzaak

WIRED heeft ontdekt dat de nieuwe AI-gegenereerde videotool van Midjourney geanimeerde clips kan produceren met auteursrechtelijk beschermde personages van Disney en Universal, waaronder een video van het geliefde Pixar-personage Wall-E met een pistool.

Het was een drukke maand voor Midjourney. Deze week lanceerde de generatieve AI-startup zijn geavanceerde nieuwe videotool, V1, waarmee gebruikers korte animaties kunnen maken van afbeeldingen die ze genereren of uploaden. De huidige versie van Midjourney's AI-videotool vereist een afbeelding als startpunt; het genereren van video's met alleen tekst wordt niet ondersteund.

De release van V1 volgt op een heel andere aankondiging eerder in juni: Hollywoodgiganten Disney en Universal spanden een rechtszaak aan tegen Midjourney vanwege de blockbuster . Ze beweren dat de film auteursrechten schendt door afbeeldingen te genereren met het intellectuele eigendom van de studio's.

Midjourney reageerde niet direct op verzoeken om commentaar. Disney en Universal herhaalden de uitspraken van hun leidinggevenden over de rechtszaak, waaronder Disney's juridisch directeur Horacio Gutierrez, die beweerde dat de productie van Midjourney neerkomt op "piraterij".

Het lijkt erop dat Midjourney geprobeerd heeft om videospecifieke beperkingen op te leggen aan versie 1. Tijdens onze tests blokkeerde het animaties van prompts gebaseerd op Elsa, Boss Baby, Goofy en Mickey Mouse uit Frozen , hoewel het nog steeds afbeeldingen van deze personages genereerde. Toen WIRED V1 vroeg om afbeeldingen van Elsa te animeren, blokkeerde een "AI-moderator" de prompt om video's te genereren. "Al Moderation is voorzichtig met realistische video's, vooral van mensen", stond in de pop-up.

Deze beperkingen, die ogenschijnlijk vangrails zijn, zijn onvolledig. Tests van WIRED tonen aan dat V1 geanimeerde clips genereert van een breed scala aan Universal- en Disney-personages, waaronder Homer Simpson, Shrek, Minions, Deadpool en Star Wars ' C-3PO en Darth Vader. Toen Midjourney bijvoorbeeld werd gevraagd om een ​​afbeelding van Minions die een banaan aten, genereerde Midjourney vier outputs met herkenbare versies van de schattige, gele personages. Toen WIRED vervolgens op de knop "Animatie" op een van de outputs klikte, genereerde Midjourney een vervolgvideo waarin de personages een banaan aten, inclusief schil.

Hoewel Midjourney sommige Disney- en Universal-gerelateerde prompts voor video's lijkt te hebben geblokkeerd, kon WIRED deze mogelijke beperkingen tijdens tests soms omzeilen door spellingsvariaties te gebruiken of de prompt te herhalen. Midjourney laat gebruikers ook een prompt gebruiken om de animatie te informeren; met deze functie kon WIRED clips genereren van auteursrechtelijk beschermde personages die zich als volwassenen gedroegen, zoals Wall-E die met een vuurwapen zwaait en Yoda die een joint rookt.

De rechtszaak tussen Disney en Universal vormt een grote bedreiging voor Midjourney, dat bovendien te maken krijgt met extra juridische uitdagingen van beeldend kunstenaars die beweren auteursrechtschendingen te hebben gepleegd. Hoewel de klacht zich grotendeels richtte op het geven van voorbeelden van Midjourney's tools voor beeldgeneratie, beweert de klacht dat video "Midjourney alleen maar beter in staat zou stellen om inbreukmakende kopieën, reproducties en afgeleide werken van de auteursrechtelijk beschermde werken van eisers te verspreiden."

De klacht bevat tientallen vermeende afbeeldingen van Midjourney waarop Universal- en Disney-personages te zien zijn. De set werd oorspronkelijk geproduceerd als onderdeel van een rapport over Midjourney's zogenaamde "visuele plagiaatprobleem" door AI-criticus en cognitiewetenschapper Gary Marcus en beeldend kunstenaar Reid Southen.

"Reid en ik hebben dit probleem 18 maanden geleden al aangekaart, en er is nog maar weinig vooruitgang geboekt en weinig veranderd", zegt Marcus. "We zitten nog steeds in dezelfde situatie: er worden nog steeds ongelicentieerde materialen gebruikt en er zijn maatregelen die een beetje werken, maar niet erg goed. Ondanks al het gepraat over exponentiële vooruitgang in AI, krijgen we betere graphics, geen fundamentele oplossing voor dit probleem."