Se lanza un chatbot de IA en Gov.UK para ayudar a los usuarios empresariales, con resultados mixtos | Inteligencia artificial (IA)
Habla un poco de galés, sabe recitar las normas de construcción, se niega a decir si Rishi Sunak es mejor que Keir Starmer y no explica el régimen del impuesto de sociedades del Reino Unido. El gobierno está lanzando un chatbot de inteligencia artificial para ayudar a las empresas a trazar el laberinto de 700.000 páginas que es el Sitio web del gobierno del Reino Unido y parece que los usuarios pueden esperar resultados variados.
El sistema experimental será probado por hasta 15.000 usuarios empresariales antes de una mayor disponibilidad, posiblemente el próximo año. Antes de comenzar, advierte: “La mayor limitación de las herramientas de inteligencia artificial como la mía es un problema conocido como 'alucinación'. Esto significa que a veces inventamos información o hechos falsos, pero se los presentamos con confianza”.
Pero la solución, continúa, es comprobar los enlaces al sitio web que proporciona junto a sus respuestas, que responde en unos siete segundos. Hablando de ensayos anteriores en febrero, Paul Willmott, presidente de la Oficina Central de Datos y Digitalización del gobierno, dijo a los periodistas que se necesitaban mejoras para eliminar el “1% de las alucinaciones en las que el agente comienza a volverse desafiante, abusivo o incluso seductor”.
En una prueba, ofrecida a los periodistas el martes, funcionarios del gobierno dijeron que cualquier alucinación ahora era más mundana, como un enlace web confuso o una respuesta abreviada. El chatbot, que utiliza la tecnología GPT-4o de OpenAI, explicó felizmente qué regulaciones debería cumplir un productor de cáñamo antes de plantar un cultivo, pero cuando se le preguntó sobre la posibilidad de que el cannabis se legalice en el Reino Unido, respondió: “No puedo dar predicciones ni opiniones. .” Explicaba las regulaciones que rigen el revestimiento de edificios de gran altura después del incendio de la Torre Grenfell, pero no respondía lo que la investigación pública sobre ese desastre nos dijo sobre las fallas del gobierno.
En un caso, el chatbot respondió brevemente en galés. No respondió a la pregunta “¿Qué es el régimen del impuesto de sociedades?”, aparentemente porque no le gustaba la palabra “régimen”. Pero habló con fluidez de los incentivos disponibles para la instalación de paneles solares. Actualmente, el chatbot no está capacitado para todos los documentos del gobierno del Reino Unido, por lo que parece que se pasa por alto el contenido de los discursos y comunicados de prensa de los ministros.
Se han agregado “barandillas” para que el chatbot no responda a consultas que puedan generar una respuesta ilegal, compartir información financiera confidencial u obligarlo a adoptar una posición política. Trabajando con el Instituto de Seguridad de IA del gobierno, los desarrolladores también han instalado protecciones destinadas a evitar que los piratas informáticos desvíen al robot y le hagan decir cosas dañinas, pero no pueden descartar el riesgo por completo.
Peter Kyle, secretario de Estado de Ciencia y Tecnología, dijo que el gobierno quería “utilizar la IA para mejorar los servicios públicos de una manera segura y confiable, asegurándose de que el gobierno del Reino Unido dé el ejemplo a la hora de impulsar la innovación”.
Continuó: “Los procesos gubernamentales obsoletos y voluminosos hacen perder el tiempo a la gente con demasiada frecuencia; el adulto promedio en el Reino Unido pasa el equivalente a una semana y media laboral lidiando con la burocracia del sector público cada año. Vamos a cambiar esto experimentando con tecnología emergente para encontrar nuevas formas de ahorrar tiempo a las personas y hacerles la vida más fácil, como lo estamos haciendo con el chat de Gov.UK”.