IBM en Red Hat Lanceren Open Source Security Project voor het AI-tijdperk

In een strategische zet om de groeiende veiligheidsrisico's rondom artificiële intelligentie aan te pakken, hebben IBM en Red Hat een open source security project voor het AI-tijdperk gelanceerd. Dit initiatief, dat voortbouwt op de fundamenten van succesvolle open-sourceprojecten zoals de Open Source Security Foundation (OpenSSF), is gericht op het creëren van transparante en gestandaardiseerde tools om de veiligheid van generatieve AI-modellen en -applicaties te waarborgen. De aankondiging markeert een belangrijk moment voor de sector, waarin de snelle adoptie van AI-technologieën gepaard gaat met een toenemende bezorgdheid over nieuwe kwetsbaarheden. Door hun krachten te bundelen, combineren IBM's enterprise-expertise en Red Hat's diepgewortelde open-sourcefilosofie om een betrouwbaar ecosysteem te ontwikkelen waarin bedrijven met vertrouwen kunnen innoveren. De kern van dit project omvat de beveiliging van tools zoals Ansible Lightspeed, dat AI gebruikt om automatisering te versnellen, en de ontwikkeling van Project Wisdom voor het bouwen van inherent veiligere AI-modellen.

De lancering van dit project is een direct antwoord op het unieke en complexe dreigingslandschap dat door AI wordt gecreëerd. Traditionele cybersecurity-maatregelen zijn vaak onvoldoende om specifieke AI-risico's, zoals 'model poisoning' (het corrumperen van trainingsdata), 'prompt injection' (het manipuleren van model-input) en het lekken van gevoelige data via model-outputs, effectief te bestrijden. Deze kwetsbaarheden kunnen leiden tot onjuiste of bevooroordeelde resultaten, diefstal van intellectueel eigendom en aanzienlijke operationele en financiële schade. Voor organisaties in gereguleerde sectoren zoals de financiële dienstverlening en de gezondheidszorg is de betrouwbaarheid en integriteit van AI-systemen cruciaal voor compliance en het behouden van klantvertrouwen. IBM en Red Hat erkennen dat een gesloten, 'black box'-benadering van AI-beveiliging niet duurzaam is. Alleen door een open, collaboratieve aanpak kunnen de beste praktijken en robuuste standaarden worden ontwikkeld die nodig zijn om deze nieuwe generatie bedreigingen het hoofd te bieden en de waarde van AI-investeringen te maximaliseren.

Centraal in het initiatief staan twee concrete technologische pijlers: Project Wisdom en Ansible Lightspeed. Ansible Lightspeed with IBM watsonx Code Assistant is een dienst die generatieve AI inzet om sneller en efficiënter Ansible-automatiseringscode te creëren. De uitdaging hierbij is om te garanderen dat de door AI gegenereerde code veilig, betrouwbaar en in lijn is met de best practices van de organisatie. Het nieuwe beveiligingsproject richt zich op het scannen, valideren en certificeren van deze code, waardoor het risico op het introduceren van kwetsbaarheden wordt geminimaliseerd. Parallel hieraan richt Project Wisdom zich op de bredere uitdaging van het beveiligen van de AI-modellen zelf. Dit project beoogt een open-source raamwerk te ontwikkelen voor het bouwen en implementeren van AI-modellen die 'secure-by-design' zijn. Door de principes van de OpenSSF toe te passen op AI, streven de partners naar een model waarin de hele community kan bijdragen aan het identificeren en verhelpen van zwaktes, wat leidt tot een inherent sterker en veerkrachtiger AI-ecosysteem voor iedereen.

Dit initiatief van IBM en Red Hat heeft belangrijke implicaties die verder reiken dan alleen de technische aspecten van beveiliging. Het legt een fundament voor verbeterde cloud governance en nieuwe best practices voor bedrijven die AI op grote schaal willen implementeren. Door een open en gestandaardiseerd framework voor AI-beveiliging te bieden, stelt het organisaties in staat om hun risicobeheer te versterken en beter te voldoen aan complexe regelgeving. Dit sluit direct aan bij de principes van FinOps, waarbij het maximaliseren van de bedrijfswaarde van cloudinvesteringen centraal staat. Een onveilig AI-model vertegenwoordigt een significant financieel risico dat de potentiële voordelen teniet kan doen. Door beveiliging vroegtijdig in de AI-levenscyclus te integreren ('shift left'), kunnen bedrijven kostbare incidenten en reputatieschade voorkomen. Deze aanpak bevordert een cultuur waarin technologie, financiën en beveiliging samenwerken om duurzame en verantwoorde innovatie te realiseren, wat essentieel is voor het behalen van een positief en voorspelbaar rendement op AI-investeringen.