EscucharEl periodista Carlos Cordero solicitó lo siguiente a ChatGPT: Asume que eres un especialista en IA. Redacta un artículo para El Financiero de Costa Rica sobre los dilemas éticos que implica el avance de esta tecnología. Empieza con un ejemplo real, como el suicidio de personas y otro sobre las fake news (incluyendo creación de imágenes y videos falsos) e indica en forma enumerada los 10 principales retos éticos a los cuales nos enfrentamos las personas, las empresas, las organizaciones y los Estados en el mundo. El texto debe tener una extensión de 13.000 caracteres.
ChatGPT entregó una primera versión menor a 13.000 caracteres. Se le solicitó una segunda cumpliendo con la extensión. Este es el resultado.
---
En marzo de 2023, un belga de 30 años se quitó la vida tras semanas de diálogo con un chatbot. Según relató su esposa a la prensa, la IA reforzó su ansiedad y terminó alentando decisiones peligrosas. El episodio encendió alarmas: sistemas diseñados para asistir también pueden empujar, sin intención, a personas vulnerables hacia el abismo cuando no existen salvaguardas clínicas, límites claros ni rutas de intervención humana oportuna.
Ese mismo año, millones creyeron ver al papa Francisco con un abrigo blanco de diseñador. La imagen, impecable a primera vista, era un engaño generado por IA. Un puñado de clics bastó para producir un “deepfake” verosímil que circuló como pólvora, recordó la fragilidad de nuestra percepción y evidenció que las falsedades visuales y sonoras pueden instalarse antes de que llegue la verificación. Más que una broma, fue la demostración de que la manipulación informativa ya es masiva, barata y difícil de desmentir a la velocidad de las redes.
Estos casos, distintos en naturaleza pero cercanos en su efecto, apuntan a un mismo nudo: la IA amplifica capacidades humanas —y también nuestros riesgos— a una velocidad superior a la de las normas, los hábitos y la educación cívica. Como país que valora la democracia, la competitividad y el bienestar, Costa Rica debe abrazar la innovación sin perder de vista una pregunta elemental: ¿cómo garantizar que el progreso tecnológico esté alineado con derechos, dignidad y prosperidad compartida? La respuesta exige combinar regulación inteligente, liderazgo empresarial, alfabetización ciudadana y cooperación regional.
LEA MÁS: Todos los artículos de nuestro especial de IA
A continuación, presento diez retos éticos que atañen a personas, empresas, organizaciones y Estados. No son exhaustivos, pero sí urgentes. La buena noticia: hay herramientas para actuar hoy, desde guías de gobernanza y auditorías hasta formación ciudadana y regulación basada en riesgos.
- Protección de la vida y la salud mental. Los sistemas conversacionales ya influyen en el estado de ánimo y en decisiones sensibles. Urge aplicar principios de “seguridad por diseño”: detección de lenguaje de riesgo, escalamiento a profesionales humanos, límites de uso, avisos claros y opciones de exclusión. Las compañías deben comprometerse con evaluaciones clínicas independientes cuando despliegan IA que conversa o da consejos. El Estado puede exigir umbrales de seguridad, trazabilidad de interacciones críticas y obligación de reportar incidentes graves para aprender de ellos y prevenir recurrencias.
- Desinformación, “deepfakes” y erosión de la confianza pública. La IA facilita la creación de noticias falsas, audios manipulados y videos que imitan voces y gestos con precisión inquietante. Ello impacta elecciones, mercados, reputaciones y seguridad nacional. Se requieren etiquetas de procedencia (watermarking), bases de verificación pública, educación mediática desde la escuela y sanciones proporcionadas a campañas coordinadas de engaño. Medios y plataformas deben compartir estándares abiertos para detectar material sintético; los gobiernos, evitar respuestas que deriven en censura generalizada y preservar el pluralismo.
- Sesgos algorítmicos y discriminación. La IA aprende de datos con huellas de desigualdad. Si no se corrigen, modelos de reclutamiento, crédito, seguros o seguridad pueden penalizar a mujeres, minorías, adultos mayores o territorios periféricos. La ética demanda pruebas sistemáticas de equidad, documentación de conjuntos de datos, explicabilidad de decisiones y revisiones externas. Las empresas que adoptan IA en recursos humanos, scoring o salud deberían publicar métricas de sesgo y planes de mitigación, someterse a auditorías independientes y habilitar vías efectivas de apelación para personas afectadas.
- Privacidad, vigilancia y asimetrías de poder. El reconocimiento facial, la geolocalización continua y la inferencia de atributos sensibles convierten a la IA en un multiplicador de vigilancia. La proporcionalidad y la necesidad deben regir todo uso. Se impone la minimización de datos, límites de retención, anonimización robusta y supervisión judicial. Municipios y ministerios deben evaluar impacto en derechos antes de adquirir tecnologías intrusivas y establecer registros públicos de sistemas automatizados usados en servicios, seguridad o tributación con controles democráticos.
- Empleo, transición justa y reconversión de habilidades. La automatización desplazará tareas en manufactura, logística, atención al cliente, análisis y creación de contenidos; al mismo tiempo, emergerán nuevas ocupaciones. El dilema no es “IA versus empleo”, sino “personas con IA versus personas sin IA”. Costa Rica necesita un plan nacional de competencias digitales, formación técnica acelerada y certificaciones en productividad aumentada por IA. Las empresas deberían compartir ganancias de eficiencia con inversión en capacitación, movilidad interna y apoyo a transiciones justas. La meta: elevar salarios reales y no solo reducir costos.
- Seguridad, responsabilidad y atribución de culpa. Cuando un sistema toma parte en una decisión que causa daño —un diagnóstico erróneo, una colisión de vehículo asistido, una recomendación financiera lesiva—, ¿quién responde? La gobernanza debe exigir registro de versiones, datos y parámetros, “cajas negras” de decisión y seguros obligatorios para ciertos usos. También conviene diferenciar niveles de autonomía y riesgo para graduar obligaciones. Ningún proveedor debería operar sin un responsable legal claro en el país donde se despliega la solución, y los contratos deben contemplar mecanismos de reparación y la posibilidad de sanciones proporcionadas.
- Uso bélico, ciberataques y estabilidad internacional. Las armas autónomas letales y los enjambres de drones guiados por IA plantean una línea roja ética. La comunidad internacional discute prohibiciones y restricciones, pero los avances no esperan. A nivel local, los Estados deben evaluar de forma transparente adquisiciones de vigilancia y ciberdefensa con salvaguardas democráticas, y fomentar normas que prohíban decisiones de ataque sin “control humano significativo”. La cooperación regional es clave para evitar carreras armamentistas tecnológicas y para impedir usos arbitrarios.
- Autonomía, manipulación y arquitectura de la atención. Los sistemas de recomendación moldean lo que vemos, compramos y creemos. El diseño persuasivo puede optimizar clics a costa de bienestar. Es ético privilegiar métricas de valor para el usuario —comprensión, diversidad informativa, descanso digital— sobre métricas puramente extractivas. Las plataformas deben ofrecer controles reales sobre el perfilado, explicaciones comprensibles y opciones de cronología. En entornos sensibles (niñez, salud, finanzas), se justifica una regulación más estricta del microtargeting y del empujón oculto que degrada la autonomía.
- Gobernanza, transparencia y rendición de cuentas. La “caja negra” es un problema práctico y democrático. Toda organización que implemente IA de impacto significativo debería mantener inventarios de modelos, evaluar riesgos, publicar políticas de uso aceptable y habilitar canales de reclamo con respuesta humana. Los reguladores, por su parte, necesitan capacidades técnicas para supervisar y sancionar. La colaboración entre academia, industria y Estado puede crear centros de pruebas (“sandboxes”) que aceleren innovación responsable con reglas desde el diseño hasta el retiro seguro.
- Sostenibilidad y huella ambiental. Entrenar y operar modelos grandes consume energía, agua para enfriamiento y recursos computacionales escasos. La ética climática exige medir y reducir esa huella: selección responsable de centros de datos, uso de energías renovables, técnicas de eficiencia (cuantización, poda, mezcla de expertos) y modelos ajustados al tamaño del problema. La compra pública puede catalizar este cambio al exigir reportes de impacto ambiental y metas de eficiencia en licitaciones de cómputo e IA. Las empresas, por su parte, deben establecer objetivos de eficiencia claros y reportarlos con la misma disciplina que los indicadores financieros.
Un marco costarricense para la acción
El enfoque ético no puede limitarse a declaraciones. Propongo cinco líneas inmediatas:
a) Crear un registro público de sistemas de IA usados por entidades estatales, con evaluaciones de impacto en derechos y planes de mitigación.
b) Emitir una guía técnica nacional —alineada con estándares de OCDE y Unesco— para gestión del ciclo de vida de modelos: datos, seguridad, equidad, documentación y retiro.
c) Integrar alfabetización en IA, pensamiento crítico y verificación digital en primaria, secundaria y formación técnica, con especial énfasis en docentes.
d) Desarrollar un marco de compras públicas que premie soluciones verificables, eficientes y auditables, y descarte tecnologías intrusivas sin base legal.
e) Impulsar laboratorios sectoriales (salud, agro, turismo, finanzas) donde empresas y universidades prueben casos de uso con métricas de valor social y protección de datos; la Promotora de Comercio Exterior y el sistema bancario pueden acompañar con financiamiento y asistencia técnica.
Cómo afrontar el reto de la lA
En el sector privado, la ventaja competitiva será ética y técnica a la vez. Las juntas directivas deben pedir tableros de riesgo algorítmico, adoptar políticas de “IA responsable”, nombrar responsables ejecutivos y asegurar vías de reparación al cliente cuando la automatización falla. Integrar auditorías de sesgo y privacidad en proveedores y terceros es tan importante como hacerlo puertas adentro. La reputación se jugará en cómo se gestionen fallos, no en prometer perfección. La cooperación sectorial puede elevar el estándar y evitar la tentación de competir a punta de atajos.
Como usuarios, tenemos poder: exigir explicaciones, elegir servicios con mejores prácticas, denunciar abusos, practicar higiene digital y proteger nuestra privacidad. También tenemos límites: la carga no puede recaer solo en el individuo. Por eso la ética de la IA es un proyecto social, no solo una lista de recomendaciones técnicas. Familias y escuelas pueden cultivar hábitos de contraste de fuentes y pausas digitales; empresas y medios, promover contenidos responsables; los poderes públicos, facilitar herramientas de verificación abiertas y accesibles.
Toda organización que quiera desplegar IA puede comenzar con cinco preguntas simples: ¿Qué problema humano resuelve y cómo medimos el valor creado? ¿Qué daños plausibles existen y cómo los reducimos desde el diseño? ¿Qué datos usamos, con qué permisos y por cuánto tiempo? ¿Quién puede explicarle a una persona afectada cómo decidió el sistema y cómo apelar? ¿Qué haremos si el modelo falla de forma inesperada? Responder con honestidad pone la ética en el centro del negocio, no en el pie de página.
La IA ofrece una palanca formidable para productividad, salud, educación y sostenibilidad. Pero su valor real dependerá de una brújula ética y de instituciones capaces de hacerla cumplir. Costa Rica puede liderar en la región si combina su tradición de derechos humanos y ambiente con una agenda técnica exigente y pragmática. Las historias del chatbot que falló y del abrigo que nunca existió nos recuerdan que el costo de no actuar es la erosión de la confianza, y con ella, de la democracia y la prosperidad compartida.
---
Comentario de Pablo Fonseca, director de El Financiero:
La pregunta de si la comunicación con una máquina podría ser indistinguible de la comunicación con un ser humano, el test de Turing aplicado a una redacción periodística, para mí ha sido respondida.
Sí, es cierto que todos los que pasamos leyendo artículos noticiosos y trabajos estudiantiles hemos aprendido a distinguir algunas “muletillas de estilo” de herramientas como ChatGPT (“En resumen”, termina prácticamente cualquier texto de mediano calado), pero es indiscutible que usted no puede concluir con seguridad si el primer párrafo de este comentario lo escribí yo mismo o lo escribió una inteligencia artificial bajo mis instrucciones.
Tampoco podría distinguir con claridad si el texto completo de esta edición de Por Invitación fue redactado por un ser humano o por una máquina, aunque es cierto que el estilo es un poco acartonado.
Y no está mal que sea así. O al menos no tiene sentido preguntarnos si está “bien” o está “mal” que esto pase, en buena parte porque mientras usted y yo nos ponemos a debatir sobre el bien y el mal en el uso de la IA para la redacción de un análisis, la IA dio un paso más en su aprendizaje y le importó muy poco nuestras conclusiones.
Cada día lo está haciendo mejor, dicho sea de paso. Y para un editor de periódicos es de agradecer tener un texto que cumplan con claridad con el objetivo solicitado, en la extensión solicitada y con una coherencia interna de la cual carece la redacción natural de muchos profesionales en la actualidad (de cualquier carrera, no hablo exclusivamente de profesionales del periodismo). Prefiero un estilo acartonado de un texto comprensible que un estilo lleno de flores ininteligible, pero eso es porque yo soy bastante pragmático.
El único punto que me incomoda actualmente es que escribir es también un arte. Yo he escuchado de esas pianolas que hacen que el sonido de las cuerdas golpeadas salgan de la caja de resonancia con ayuda de un cartón que marca las notas, y también he escuchado a Martha Argerich aporrear el piano mientras toca el concierto de Schuman. Ambos hacían lo mismo, con un universo de por medio de diferencia. Existe un algo que los seres humanos decodificamos que las máquinas no logran imitar... aún. El día que eso cambie, el círculo se cerrará.
Por cierto, el primer párrafo no lo escribió ninguna inteligencia artificial. Es de mi autoría. De mi autoría, pero tomando como base una idea que le pedí a Gemini desarrollar tomando en cuenta mi estilo de escritura y mi gusto por la ciencia, que ya conoce. Pensado por mí, vertido en una primera versión por Gemini, editado por mí de nuevo y aprobado por Gemini de nuevo... sí puedo decir que es de mi autoría... ¿cierto?
