Compania Anthropic a anunțat că a reușit să identifice și să oprească tentativele de utilizare a tehnologiei sale de inteligență artificială pentru activități rău intenționate, în special pentru sprijinirea dezvoltării de arme biologice.
Raportul recent de informații despre amenințări al firmei evidențiază eforturile de a preveni utilizarea abuzivă a modelelor AI.
În ultimele luni, cercetătorii au detectat mai multe cazuri în care modelele de AI au fost folosite pentru activități cibernetice, spionaj și influențare.
Riscuri și reacții în domeniul inteligenței artificiale În timp ce unii lideri politici, precum senatorul american Bernie Sanders, solicită o pauză în dezvoltarea AI avansate, președintele Donald Trump consideră că progresul în domeniu este esențial pentru poziția globală a țării.
Raportul menționează că modelul Claude al Anthropic a fost folosit în campanii de spionaj cibernetic și pentru a sprijini cercetări care pot duce la dezvoltarea armelor biologice.
Citește articolul complet pe Diaspora News
Deschide articolul →