Imagine generata cu Bing Image Creator
Am văzut că Tudor a postat o informație extrem de interesantă legată de faptul că Uniunea Europeană implică comunitatea în procesul de legiferare a funcționării AI-ului în zona de creare de conținut (în engleză sună ceva mai bine …generative Artificial Intelligence). Este vorba de ˝G7 Guiding Principles on generative Artificial Intelligence˝, unde sunt explicate cele 11 principii realizate de grupul G7 în vederea creării cadrului legislativ pentru promovarea siguranței și încrederii în tehnologie.
O primă variantă a acestui ghid poate fi consultată aici de cine e interesat și evident că poate să își spună părerea. Cele 11 principii propuse (într-o traducere aproximativă, fără englezisme) arată cam așa:
- Să fie luate măsurile necesare pentru identificarea, evaluarea și rezolvarea eventualelor probleme asociate sistemelor AI, pe toată durata vieții lor, încă din procesul de dezvoltare.
- Identificarea și rezolvarea vulnerabilităților, a a incidentelor și a șabloanelor de folosire ilegală, după dezvoltare și lansarea pe piață.
- Raportarea publică a capabilităților sistemelor AI, a limitărilor și domeniilor unde poate fi folosit corect sau incorect, pentru a facilita un nivel adecvat de transparență.
- Să fie depuse eforturi în direcția partajării de informație și raportarea incidentelor între firmele care produc AI, societatea civilă, mediul academic și guverne, atunci când apar probleme.
- Dezvoltarea, implementarea și oferirea de informații despre politicile de funcționare și management al riscului pentru sistemele AI, incluzând aici politicile legate de păstrarea intimității și a modului în care sunt rezolvate, în special pentru companiile care dezvoltă sisteme AI avansate.
- Crearea și implementarea de politici de securitate solide, de la cele fizice la cele cyber, pe toată durata vieții AI-ului. Incluzând aici și protecție asupra atacurilor din interior.
- Dezvoltarea și implementarea unor soluții valide, de încredere vizavi de autentificare și verificarea sursei conținutului. Ar fi vorba despre watermark și alte tipuri de tehnologii care să permită utilizatorilor să identifice ușor conținutul generat de AI.
- Pe primul loc să se afle cercetarea legată de riscurile de securitate, siguranță și impact social și să se aducă soluții solide pentru repararea unor astfel de incidente.
- Prioritizarea temelor în care AI-ul va fi dezvoltat către soluțiile care să rezolve problemele majore ale societății, precum criza climatică, sănătatea globală și educația.
- Dezvoltarea și implementarea (acolo unde e posibilă) a unor standarde internaționale asociate folosirii, dezvoltării, implementării AI-ului.
- Implementarea unor soluții corecte pentru controlul datelor de intrare cu care sunt antrenate sistemele AI și a unor audit-uri.
Pentru mulți dintre voi principiile astea vor suna ca limbi străine – dar dacă le citiți cu atenție o să descoperiți că au sens. Sunt niște măsuri de bun simț care au misiunea să stabilească regulile de bază, unde sistemele AI să poată fi controlate din momentul în care încep să fie dezvoltate și până în cel în care sunt date în folosință, în așa fel încât să ajute umanitatea și să nu lezeze interesele fizice, sociale ale oamenilor.
E clar că nu e suficient și că vor veni indivizi/organizații care vor căuta să iasă din limitele acestea și să facă chestii urâte. Bomba atomică e un exemplu foarte bun vizavi de treaba asta, așa că nu am nici cel mai mic dubiu că AI-uri ˝periculoase˝ vor fi construite chiar și după ce aceste principii vor începe să fie aplicate.
Însă mă bucur că Uniunea Europeană începe să facă asta, pentru că SUA nu are nici cea mai mică treabă în această direcție. E un prim pas pe care trebuie să îl facem și să vedem ce iese, pentru ca ulterior să putem îmbunătăți sistemul.
Voi ce credeți?
