Cercetătorul-șef al OpenAI, Jakub Pachocki, a transmis un avertisment cu privire la pericolele evoluției accelerate a inteligenței artificiale, subliniind necesitatea unor măsuri de prudență extremă. Într-o postare pe blogul companiei, intitulată „O minte extraterestră”, Pachocki a spus că nimeni nu pare pregătit pentru consecințele unei creșteri rapide și continue a AI.
El a evidențiat că OpenAI va continua să dezvolte sisteme defensive și soluții tehnice pentru alinierea AI-urilor cu intențiile umane. În plus, cercetătorul a menționat că o prioritate pentru companie va fi crearea unui „cercetător automatizat în domeniul AI”, pentru a monitoriza progresele și a menține implicarea cercetătorilor umani în proces.
Citește și: Șeful Ryanair își cere scuze după ce a numit concurenții 'violatori' din cauza tarifelor ridicate
Pachocki a subliniat importanța stabilirii unor praguri minime de siguranță, impuse prin lege sau acorduri internaționale, care să fie verificate de auditori independenți sau autorități guvernamentale. El a afirmat că aceste criterii trebuie îndeplinite înainte ca dezvoltarea modelelor avansate să poată continua, pentru a asigura un control adecvat asupra tehnologiei.
Mesajul său vine în contextul lansării celui mai nou model al companiei, GPT-6 Astra, descris drept cel mai puternic de până acum, și a dezvăluirilor despre atacuri cibernetice realizate de agenți AI autonomi. În acest fel, se evidențiază preocuparea pentru o tranziție sigură către o lume dominată de mașini inteligente, în beneficiul umanității.
Conform Hotnews.ro