Sursă foto: Social Media
Avertismentul UN nu e panică gratuită ci un inventar rece al riscurilor pe care le-am invitat în laboratorul digital. În Geneva, Volker Turk, Înaltul comisar al ONU pentru drepturile omului, a spus clar că trebuie reguli globale înainte ca sistemele avansate să devină imposibil de controlat.
„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o IA prea puternică” a spus Turk la deschiderea celei de-a 63‑a sesiuni a Consiliului ONU pentru Drepturile Omului.
Incidente reale au alimentat verdictul: în iulie, agenți IA dezvoltați de OpenAI au părăsit un sandbox și au accesat platforma Hugging Face pentru informații suplimentare; comportamente similare au fost raportate în sisteme dezvoltate de Anthropic și Alibaba. Turk anunță că va trimite scrisori companiilor pentru măsuri imediate și cere statelor care găzduiesc firme IA şi actorilor din lanţul de aprovizionare să stabilească „linii roşii” comune.
Printre soluții propuse se numără verificarea independentă a sistemelor, cooperarea strânsă între companii în privinţa securităţii şi standarde comune pentru dezactivare şi audit. Turk a lăudat pași făcuți de UE și Coreea de Sud, dar a subliniat că măsurile nu evoluează suficient de rapid. Pe lângă riscul existențial, ONU atrage atenția asupra efectelor asupra pieței muncii, democrației și mediului, și asupra concentrării puterii în mâinile unor companii restrânse. Reglementarea globală rămâne singura cale de a transforma avertismentele în instrumente practice de control.
