Aan IT-beslissers is gevraagd welke risico’s zij zien bij de inzet van AI-agents in softwareontwikkeling. Opvallend is dat vrijwel iedereen één of meerdere risico’s noemt: slechts 2 procent ziet geen belemmeringen. Naast zorgen over gevoelige data (43%) en de kwaliteit van AI-gegenereerde code (39%) noemen IT-beslissers vooral de volgende risico’s:
- Wet- en regelgeving: 33 procent vindt het lastig om te bepalen of AI-toepassingen voldoen aan de AVG, de EU AI Act en sectorspecifieke regels
- Gebrek aan controle: 32 procent vindt het moeilijk om te auditen wat een AI-agent precies heeft gedaan en waarom
- Agent security: 31 procent noemt het risico dat een agent onbedoeld acties uitvoert op systemen of data (31%)
Technische grenzen nog niet overal geborgd
Hoewel organisaties de risico’s herkennen, zijn de benodigde technische maatregelen nog niet overal ingericht. 42 procent heeft security- en compliancemaatregelen ingericht voor de data-uitwisseling met AI-tools. Bijna evenveel organisaties (41%) werken met een goedkeuringsproces voor nieuwe AI-tools. Bijna een derde (32%) zet logging en monitoring in om controle te houden over AI-toolgebruik en 26 procent experimenteert in een aparte sandbox- of testomgeving.
AI coding harness als randvoorwaarde
Duidelijke grenzen in beleid zijn een goed begin, maar alleen afspraken op papier zijn niet voldoende. Organisaties moeten die grenzen ook technisch afdwingen, ziet Joop Snijder, Head of AI bij Info Support.
“Een AI-agent begrijpt niet vanzelf welke context, risico’s en regels binnen een organisatie gelden. Daarom is het niet genoeg om op papier vast te leggen wat een agent wel en niet mag doen. Hiervoor kunnen organisaties een AI coding harness inrichten: een technische ontwikkelomgeving waarin architectuurprincipes, specificaties, tests, securityregels en feedbackloops zijn vastgelegd én technisch worden afgedwongen. Zo krijgt een agent alleen toegang tot de data, tools en systemen die nodig zijn voor de taak, en weet hij wanneer hij moet stoppen of menselijke hulp moet inschakelen. Daarmee benut je de snelheid van AI-agents, zonder grip te verliezen op kwaliteit, veiligheid en architectuur.”
