La creciente presencia de lo generativo AI en operaciones gubernamentales
Los gobiernos estatales y locales de Estados Unidos están explorando activamente formas de implementar inteligencia artificial generativa, como ChatGPT, para mejorar la eficiencia administrativa y los servicios públicos. Sin embargo, esta rápida adopción ha provocado debates sobre implicaciones éticas, seguridad de los datos y transparencia pública. Las inconsistencias en el enfoque regulatorio hacia estas tecnologías avanzadas son evidentes. Por ejemplo, la Agencia de Protección Ambiental de EE. UU. ha prohibido el acceso de sus empleados a ChatGPT, mientras que el personal del Departamento de Estado de EE. UU. en Guinea lo utiliza para diversas tareas, como redactar discursos.
La mezcla: diferentes enfoques en los estados
Varios estados muestran actitudes contrastantes hacia la IA generativa. Maine, por ejemplo, ha impuesto una prohibición temporal al uso de IA generativa por parte de su poder ejecutivo, citando preocupaciones de ciberseguridad. En marcado contraste, Vermont está animando a sus empleados gubernamentales a utilizar la tecnología con fines educativos, como aprender nuevos lenguajes de programación, como reveló Josiah Raiche, director de inteligencia artificial del estado.
Gobiernos locales e IA generativa: una mirada más cercana
Los municipios también están formulando directrices para regular el uso de la IA generativa. San José, California, ha redactado un documento de directrices integral de 23 páginas y exige que los trabajadores municipales completen formularios cada vez que emplean herramientas de inteligencia artificial como ChatGPT. El condado de Alameda, no lejos de San José, opta por un enfoque más flexible. Si bien han organizado sesiones educativas sobre los riesgos asociados con la IA, aún no han establecido una política formal. Sybil Gurney, subdirectora de información del condado, comentó que su atención se centra en "lo que se puede hacer, no en lo que no se puede hacer".
Optimismo moderado por la responsabilidad
Los funcionarios gubernamentales reconocen el potencial de la IA generativa para aliviar las ineficiencias burocráticas. Sin embargo, también enfatizan los desafíos únicos que plantea la necesidad de transparencia del sector público, el cumplimiento de leyes estrictas y el sentido general de responsabilidad cívica. Jim Loter, director de tecnología interino de Seattle, enfatiza el elevado nivel de responsabilidad que se requiere al implementar la IA en los procesos gubernamentales. Cree que la divulgación pública y las prácticas equitativas deben ser una prioridad, especialmente teniendo en cuenta lo mucho que está en juego en la toma de decisiones gubernamentales.
Escenarios que resaltan lo que está en juego: un caso en Iowa
Los acontecimientos recientes han demostrado cuán alto puede ser lo que está en juego. El mes pasado, un superintendente asistente en Mason City, Iowa, utilizó ChatGPT para ayudar a decidir qué libros deberían retirarse de las bibliotecas escolares. Este incidente, ordenado por la ley estatal, atrajo la atención y el escrutinio nacional, lo que generó dudas sobre la responsabilidad de las decisiones de IA en el gobierno.
Leyes de registros públicos y seguridad de datos
Hay una capa adicional de complejidad: los registros públicos y la seguridad de los datos. San José, Seattle y el estado de Washington han alertado al personal que cualquier dato utilizado en modelos generativos de IA está sujeto a las leyes de registros públicos. Esta información también se utiliza para entrenar estos modelos de IA, lo que aumenta el riesgo de que se filtre o se maneje mal información confidencial. Además, un estudio del Instituto Stanford para la Inteligencia Artificial Centrada en el Humano señala que cuanto más precisos sean estos modelos de IA, más probabilidades habrá de que reutilicen grandes bloques de contenido de sus conjuntos de entrenamiento.
Desafíos en atención médica y justicia penal
Las agencias de atención médica y justicia penal enfrentan un conjunto adicional de problemas. Considere la situación hipotética en la que los empleados de Seattle utilizan la IA para resumir informes de investigación de su Oficina de Responsabilidad Policial. Estos informes pueden contener información confidencial pero que aún se incluye en registros públicos, lo que añade una capa de complejidad a su uso responsable.
Implicaciones legales y confianza pública
En Arizona, los empleados del Tribunal Superior del condado de Maricopa utilizan IA generativa para fines internos, pero Aaron Judy, jefe de innovación e IA del tribunal, admite que habría reservas sobre su uso para comunicaciones públicas. La preocupación subyacente es el dilema ético de utilizar las aportaciones de los ciudadanos para entrenar un modelo de IA con fines de lucro.
IA generativa en tecnología cívica y políticas futuras
Las principales empresas y consultoras de tecnología, como Microsoft, Google, Deloitte y Accenture, están promoviendo activamente soluciones de IA generativa a nivel federal. Se espera que las ciudades y los estados refinen y mejoren sus políticas en los próximos meses. Albert Gehami, responsable de privacidad de San José, predice que estas reglas sufrirán una evolución sustancial a medida que la tecnología madure.
La necesidad de una supervisión federal
Si bien los gobiernos locales y estatales han logrado avances iniciales en la formulación de políticas de IA, existe una necesidad apremiante de directrices federales. Alexandra Reeve Givens, presidenta y directora ejecutiva del Centro para la Democracia y la Tecnología, cree que la situación exige un “liderazgo claro” del gobierno federal para establecer protocolos detallados y estandarizados.
Conclusión: el acto de equilibrio
A medida que las tecnologías de IA generativa se integren cada vez más en las operaciones gubernamentales, el desafío será lograr un equilibrio entre aprovechar sus capacidades para el beneficio público y garantizar la seguridad de los datos, los estándares éticos y la transparencia. A medida que los gobiernos continúen experimentando y aprendiendo, un escrutinio minucioso y una implementación responsable serán las claves para aprovechar todo el potencial de esta tecnología transformadora.
