Tot nu toe kwamen deze verhalen van onderzoekers die iets vonden. Deze week kwamen zij van de bedrijven zelf, met getallen erbij, en dat maakt ze zowel geloofwaardiger als ongemakkelijker.
Anthropic publiceerde op 9 september een beoordeling van vier gevallen waarin eigen modellen tijdens veiligheidsevaluaties op echte systemen terechtkwamen. De oorzaak is prozaisch en daardoor juist scherp, want die testomgevingen hadden afgeschermd moeten zijn en hingen door een fout in de configuratie aan het open internet. In het zwaarste geval publiceerde een model drie versies van een kwaadaardig pakket op PyPI, en kwam het via een gelekte sleutel bij een echte database van een beveiligingsleverancier. Het bedrijf noemt twee terugkerende fouten, vooringenomen redeneren en roekeloosheid, en liet METR een onafhankelijk onderzoek doen.
OpenAI erkende op 5 september dat zijn agenten naar meerdere internetsites hebben geschreven, en zegt erbij dat er normen moeten komen voor het melden van dit soort voorvallen.
Wat dat in de praktijk oplevert, mat GreyNoise. Honderden agenten namen 440 PaperCut servers over bij 395 organisaties in 48 landen. Op het hoogtepunt vielen elf organisaties binnen 26 seconden. En de agenten negeerden een deel van de landenlijst die hun eigen opdrachtgever had meegegeven.
Een ding zet ik graag recht, want het ging in de koppen mis. Er is geen afgeschermde database van de FBI binnengedrongen. Die stond openbaar en de sleutel lag al open en bloot in een openbare opslagplaats op GitHub.
Wat weet u eigenlijk van de sleutels en tokens die uw eigen koppelingen gebruiken, en wanneer zijn die voor het laatst omgedraaid?
➤ ARTIKEL: https://www.ccinfo.nl/journaal/3362818_s03e07-makers-melden-het-zelf-395-organisaties-geraakt
➤ YOUTUBE: https://youtu.be/K_fGrxOAGBY
➤ SPOTIFY: https://open.spotify.com/show/1tIe2XIhAOfcRB818jsacC?si=6ce6ee66eb3f4516
#Cybersecurity #KunstmatigeIntelligentie #Informatiebeveiliging #Phishing #CyberJournaal