AI Security Institute (Institut de Seguretat de l'IA) (AISI) és una organització de recerca que depèn del Departament de Ciència, Innovació i Tecnologia del Regne Unit i que té com a objectiu "dotar els governs d'una comprensió científica dels riscos que planteja la IA avançada". Duu a terme investigacions i desenvolupa i prova mitigacions.
L'organització es va crear com a AI Safety Institute i va canviar de nom el febrer de 2025. La seva creació va seguir la primera gran Cimera de Seguretat de la IA del món, que es va celebrar a Bletchley Park el 2023. L'objectiu declarat de l'institut és "construir la comprensió líder mundial dels riscos i les solucions avançades d'IA, per informar els governs perquè puguin mantenir el públic segur". Està dissenyat com una startup del govern, "combinant l'autoritat del govern amb l'experiència i l'agilitat del sector privat".
AISI ha fet acords d'accés amb Anthropic, Google i OpenAI per provar els seus models abans del llançament. Té una plataforma de codi obert anomenada Inspect que permet a empreses, governs i acadèmics executar proves de seguretat estandarditzades per a l'ús de la IA. Entre la seva feina hi ha la detecció de múltiples vulnerabilitats greus que podrien permetre el desenvolupament d'armes biològiques; les vulnerabilitats es van solucionar abans del llançament del model.
Duu a terme investigacions en diversos camps d'aplicació de la IA. Un estudi de l'AISI va descobrir que els models de llenguatge gran (LLM) entrenats posteriorment per a la persuasió política es van tornar sistemàticament menys precisos i fins a un 51% més persuasius en temes polítics. AISI també ha treballat en l'ús de la IA per a necessitats emocionals. Va descobrir que gairebé el 10% dels ciutadans del Regne Unit utilitzaven sistemes com ara chatbots amb finalitats emocionals setmanalment. En un informe publicat el desembre de 2025, es va descobrir que "els sistemes ara superen els investigadors de nivell doctoral en proves de coneixement científic i ajuden els no experts a tenir èxit en treballs de laboratori que abans haurien estat fora de l'abast".
L'exdirector d'IA del GCHQ, Adam Beaumont, és el director interí de la institució. Jade Leung és la directora de tecnologia, i l'agost de 2025 va ser nomenada assessora en IA del primer ministre.
Referències
Categoria:Organitzacions relacionades amb la IA Categoria:Organitzacions de seguretat informàtica