Compania Anthropic a anunțat că a reușit să identifice și să oprească tentativele de utilizare a tehnologiei sale de inteligență artificială pentru activități rău intenționate, în special pentru sprijinirea dezvoltării de arme biologice.
Raportul recent de informații despre amenințări al firmei evidențiază eforturile de a preveni utilizarea abuzivă a modelelor AI. În ultimele luni, cercetătorii au detectat mai multe cazuri în care modelele de AI au fost folosite pentru activități cibernetice, spionaj și influențare.
Citește și: Elon Musk este declarat vinovat de limitarea serviciilor Starshield în Ucraina
Riscuri și reacții în domeniul inteligenței artificiale
În timp ce unii lideri politici, precum senatorul american Bernie Sanders, solicită o pauză în dezvoltarea AI avansate, președintele Donald Trump consideră că progresul în domeniu este esențial pentru poziția globală a țării. Raportul menționează că modelul Claude al Anthropic a fost folosit în campanii de spionaj cibernetic și pentru a sprijini cercetări care pot duce la dezvoltarea armelor biologice.
De asemenea, alte companii de AI, precum Google, au raportat încercări de utilizare a tehnologiei pentru sintetizarea agenților biologici transformați în arme, ceea ce ridică semne de întrebare privind controlul asupra acestor tehnologii.
Anthropic a acuzat și firme chineze de AI că încearcă să reproducă capacitățile modelului Claude, în timp ce cercetătorii care au lucrat la proiecte similare au lansat avertismente cu privire la riscurile majore ale acestor tehnologii dacă nu sunt gestionate corespunzător.
Raportul subliniază că, pe lângă utilizarea pentru atacuri cibernetice și de influență, modelele de AI pot fi folosite pentru sprijinirea dezvoltării armelor biologice, fiind considerate unul dintre cele mai grave riscuri asociate tehnologiei de frontieră.
Conform Mediafax.ro