Bag de seamă că scopul Microsoft (dincolo de a fraieri investitorii să se arunce în AI) este și să ne arate cât de inutile sunt o grămadă din ˝inovațiile˝ asociate AI-ului: a lansat VASA-1, un model care poate să genereze clipuri video cu oameni care vorbesc, plecând doar de la o poză și o secvență audio. La fel ca în cazul mizeriei Voice Engine, sau mai exact … în completarea ei, cei ce vor avea acces la aceste modele vor putea să genereze extrem de simplu o grămadă de chestii false pe care prea puțini le vor putea detecta.
VASA-1 nu doar că reușește să anime o față (pornind de la o poză) dar poate să sincronizeze foarte bine și mișcările buzelor, a feței, privirea și aș zice că se descurcă binișor și cu părul și orientarea capului. Și toate astea se întâmplă în … timp real!
Conform Microsoft, modelul VASA-1 e doar un proiect din zona de cercetare și (încă) nu e accesibil nimănui – dar cum știm ce probleme grabe de securitate au avut în ultima vreme, îi putem crede?
Știți ce e și mai fain? Că toate fețele folosite în animație nu există (sau nu ar trebui să existe, că tocmai citisem că o persoană și-a regăsit imaginea într-un set de chipuri generate de AI), fiind generate cu DALL-E. Și nu mai mira ca vocile să fie generate prin Voice Engine, plecând de la o bucată de text scrisă.
Acum puneți singuri cap la cap informația: cineva îți ia poza de pe Instagram/FB și reușește să îți înregistreze vocea timp de 15 secunde. Merge la modelul Voice Engine (și ăla, în teorie e păzit) și generează un text cu chestii nasoale. Apoi vine pe VASA-1 și generează un clip în care pare că tu ești cel ce spui toate astea?
Sună bine? Nu chiar. Dar e ceea ce se va întâmpla cât de curând – ați văzut că în ciuda legilor care încep să apară, curentul deepfake nu o să poată fi oprit.
E drept că încă VASA-1 nu e perfect și pentru cine are ochi să observe apar neconcordanțe și ar putea fi identificată minciuna. Însă pentru restul … cei ce se informează exclusiv de pe TikTok și YouTube/WhatsApp/Insta, e ceva cât se poate de real.
Modelul VASA-1 e destul de avansat încât să nu aibă neapărat nevoie de o poză frontală – în teorie poate folosi și una parțială, reușind să genereze un clip destul de real.
La ce ajută?
În afară de exemplul evident – la manipulare și generarea de conținut fake, nu ajută la nimic. Cercetătorii Microsoft vin să spună că ar fi util în zona de jocuri video și generarea de desene animate, care ar duce la animații mai realiste. Sau chiar la generarea de avatar-uri pentru folosirea în diferite chestii virtuale, însă mie mi se pare că în realitate nu vorbim despre utilitate ci despre decizia Microsoft de a profita de trendul ăsta AI și de a stoarce cât mai mulți bani de la investitori.
Mai trist este că nici nu îți trebuie un super hardware ca să poți face fake-uri în timp real: un clip de 512×512 pixeli, la 45 fps poate fi generat în doar 2 minute pe nu sistem cu Nvidia RTX 4090 GPU. Deci folosirea în timp real nu are cu adevărat bariere hardware …
E bine să știți toate astea înainte să vă entuziasmați vizavi de AI. Da, are cu siguranță valențe pozitive, dar după cum vedeți, utilitatea reală e aproape inexistentă în fața tuturor aplicațiilor care nu fac altceva decât să promoveze minciuna, fake-ul, impostura. Cam peste tot în jurul nostru.
Dacă vreți mai multe detalii despre VASA-1 și un set mai amplu de materiale video, vă invit să vizitați pagina Microsoft Research de aici.
