Anthropic pidättää Claude Mythosin hakkerointipelkojen vuoksi
Uusi tekoälymalli paljastaa kriittisiä ohjelmistohaavoittuvuuksia.
Anthropic on päättänyt olla julkaisematta uusinta tekoälymalliaan Claude Mythos yleisölle sen jälkeen, kun se osoitti ennennäkemättömän kyvyn paljastaa ohjelmistojen haavoittuvuuksia, joita voitaisiin hyödyntää laajamittaisissa verkkohyökkäyksissä.
Kuten The Guardian kertoo , San Franciscossa sijaitseva yritys kertoi, että malli on jo tunnistanut tuhansia heikkouksia laajasti käytetyissä sovelluksissa, mukaan lukien joitakin vuosikymmeniä vanhoja ja kehittäjien aiemmin huomaamatta jättämiä heikkouksia. Koska Anthropic on huolissaan tällaisten kykyjen mahdollisesta väärinkäytöstä, se rajoittaa sen sijaan pääsyn kyberturvallisuusasiantuntijoille ja valituille kumppaneille.
Yritys tekee "Glasswing" -nimellä tunnetun aloitteen kautta yhteistyötä suurten teknologia- ja tietoturvayhtiöiden, kuten Amazonin, Applen, Microsoftin, Ciscon, CrowdStriken ja Palo Alto Networksin sekä Linux Foundationin kanssa. Tavoitteena on käyttää mallia puolustuksellisesti, mikä auttaa tunnistamaan ja korjaamaan haavoittuvuuksia ennen kuin pahansuovat toimijat voivat hyödyntää niitä.
