Sinds de Europese Unie in maart 2024 de definitieve versie van de AI Act heeft goedgekeurd, krijgen we regelmatig de vraag: valt FirstRing onder de categorie ‘hoog-risico AI’?
Een terechte vraag – zeker in crisissituaties, waar zorgvuldigheid en vertrouwen cruciaal zijn. In deze blog leggen we helder uit waarom FirstRing níet binnen de hoog-risico categorie valt, en wat we wél doen om veilig, ethisch en transparant met AI om te gaan.
Wat zegt de AI Act eigenlijk?
De AI Act deelt AI-systemen in op basis van risico. Systemen die autonoom beslissingen nemen over de fysieke veiligheid, gezondheid of rechten van mensen (denk aan medische diagnoses of sociale kredietscores), vallen onder hoog-risico AI. Deze systemen moeten aan zware eisen voldoen, zoals risicobeheer, logging, human oversight en transparantie.
Waarom FirstRing niet onder hoog-risico valt
Op basis van juridisch advies geldt het volgende:
- FirstRing ondersteunt, maar beslist niet. De tool genereert communicatiesuggesties voor crisisteams, maar neemt geen autonome beslissingen. De eindgebruiker bepaalt altijd wat er wel of niet naar buiten gaat.
- FirstRing is geen veiligheidskritisch systeem. Het beïnvloedt geen fysieke processen of systemen (zoals verkeers- of medische apparatuur) en valt dus niet onder de ‘safety-related use cases’ van de AI Act.
- FirstRing vereist altijd menselijke tussenkomst. De tool is ontworpen om mensen te helpen denken, schrijven en besluiten – niet om hen te vervangen.
Hoe we tóch voldoen aan belangrijke AI-principes
Ook al is FirstRing geen hoog-risico systeem, we nemen de uitgangspunten van de AI Act serieus. Daarom:
- Vermelden we altijd dat AI is gebruikt bij gegenereerde teksten (transparantie).
- Blijft de eindgebruiker verantwoordelijk voor wat naar buiten gaat (menselijke regie).
- Bieden we trainingen over ethisch en verantwoord AI-gebruik.
- Kunnen gebruikers kiezen voor modellen die binnen de EU worden gehost (zoals Mistral).
Meer weten?
Wil je ons juridisch advies ontvangen of weten hoe jouw organisatie FirstRing verantwoord kan inzetten? Neem gerust contact met ons op voor een demo, documentatie of adviesgesprek.