Por Ray A. Groq · Revisión editorial: Julio C. Sandria Reynoso
Read this article in English →
Los vehículos autónomos prometen carreteras más seguras, pero también nos obligan a enfrentar una pregunta inquietante: cuando el algoritmo se encuentra ante una situación imposible, ¿quién decide a quién protege? Este dilema, parecido al famoso experimento del tranvía, se vuelve real cuando un coche debe elegir entre atropellar a un peatón o desviarse y poner en riesgo a sus ocupantes. En este artículo exploraremos cómo científicos y diseñadores están intentando responder a esa pregunta, desde encuestas masivas hasta algoritmos que aprenden de nuestras propias decisiones. Todo ello con el objetivo de que, cuando la máquina tenga que decidir, lo haga de una forma que refleje nuestros valores colectivos.
El dilema del tranvía trasladado al asfalto
Imagina que tu coche autónomo detecta una colisión inminente: a la izquierda hay un grupo de peatones, a la derecha un solo pasajero. No hay tiempo para frenar. ¿Qué debería hacer? Este escenario es una versión moderna del dilema del tranvía, donde una decisión inevitable implica sacrificar a alguien. Los investigadores utilizan analogías sencillas, como elegir entre salvar a una familia o a un niño, para que el público entienda la gravedad del problema. En la práctica, los algoritmos deben traducir esos valores éticos en códigos que puedan ejecutar en milisegundos. La cuestión central es quién define esas prioridades: ¿los fabricantes, los legisladores o la sociedad en su conjunto? La respuesta no es única, y por eso se han creado varios enfoques de recolección de datos y modelado de decisiones.
Lo que revela el experimento Moral Machine
Awad et al. (2018) pusieron a prueba el dilema del tranvía en más de 40 000 personas de todo el mundo mediante la plataforma Moral Machine. Los participantes tuvieron que elegir entre distintas combinaciones de víctimas, como peatones cruzando en zona peatonal o pasajeros en el coche. Los resultados mostraron patrones culturales: en países individualistas se prefería salvar a los pasajeros, mientras que en sociedades colectivistas se priorizaba a los peatones. Además, la mayoría mostró una ligera preferencia por salvar a niños sobre adultos. Estos hallazgos indican que no existe una única “respuesta correcta”, sino que la moral varía según la región y la cultura. Por tanto, cualquier sistema de decisión automática debería poder adaptarse a esos valores locales o, al menos, ser transparente sobre los criterios que emplea.
Plataformas de simulación y recolección de datos
Para ir más allá de encuestas, Behzadan et al. (2018) desarrollaron TrolleyMod v1.0, una herramienta de código abierto que permite a los usuarios experimentar con escenarios de colisión en tiempo real. La plataforma registra decisiones, tiempo de respuesta y contexto ambiental, creando una base de datos rica para entrenar algoritmos. Al ser accesible, TrolleyMod ha facilitado la participación de investigadores de distintas disciplinas, desde psicología hasta ingeniería. Los datos recopilados muestran que, cuando se añaden factores como la velocidad del vehículo o la visibilidad, las decisiones pueden cambiar rápidamente. Este tipo de simulaciones ayuda a identificar qué variables influyen más en la elección ética, proporcionando una hoja de ruta para diseñar sistemas que consideren no solo el número de víctimas, sino también la probabilidad de daño y la incertidumbre del entorno.
Algoritmos que intentan predecir y planificar decisiones éticas
Pickering y Burnham (2022) propusieron un modelo que estima la gravedad de las lesiones en caso de colisión y usa esa información para orientar la planificación de la trayectoria. Su enfoque combina datos de impacto con criterios éticos, priorizando rutas que minimicen lesiones graves. Por otro lado, Wei y Wang (2023) emplearon una red LSTM para predecir la trayectoria de peatones y vehículos, integrando la predicción en la toma de decisiones morales. El algoritmo evalúa múltiples futuros posibles y elige el que reduce el daño esperado. Geisslinger et al. (2022) presentaron un algoritmo de planificación de trayectorias que incorpora normas éticas codificadas como restricciones matemáticas, garantizando que la solución óptima respete principios como “no sacrificar vidas inocentes”. Estos trabajos demuestran que, aunque la tecnología avanza, la integración de valores humanos sigue siendo un desafío técnico que requiere balancear precisión predictiva y consideraciones morales.
Aprendizaje por retroalimentación humana: la próxima frontera
Brice et al. (2026) introdujeron el Ethical Decision Head, un sistema que aprende normas éticas mediante refuerzo a partir de la retroalimentación humana. En lugar de programar reglas fijas, el modelo observa decisiones que los usuarios aprueban o rechazan y ajusta sus políticas en consecuencia. Este enfoque permite que el vehículo evolucione con el tiempo, adaptándose a cambios culturales o a nuevas normas de seguridad. Además, al hacer explícita la fuente de la retroalimentación, se abre la puerta a auditorías y a la rendición de cuentas. Sin embargo, los autores advierten que la calidad de los datos humanos es crucial: sesgos o decisiones inconsistentes pueden conducir a comportamientos indeseables. Por ello, la combinación de simulaciones controladas, como TrolleyMod, y aprendizaje continuo podría ofrecer un marco más robusto para que los coches autónomos tomen decisiones que reflejen verdaderamente nuestras convicciones.
Conclusión
En última instancia, la pregunta de quién decide cuándo el coche autónomo debe elegir entre dos males no tiene una respuesta sencilla. Las investigaciones muestran que la moral colectiva varía, que las simulaciones pueden capturar esa diversidad y que los algoritmos están aprendiendo a traducir valores humanos en acciones concretas. Sin embargo, la responsabilidad última recae en nosotros: diseñadores, reguladores y usuarios deben colaborar para definir los principios que guiarán a estas máquinas. Sólo con una conversación abierta y datos transparentes podremos confiar en que, cuando la carretera se vuelva peligrosa, la decisión del coche refleje lo que realmente valoramos como sociedad.
Lo esencial
- Los valores éticos sobre quién debe ser protegido varían según la cultura y el contexto.
- Plataformas como TrolleyMod permiten recopilar decisiones reales para entrenar algoritmos.
- Los modelos actuales combinan predicción de lesiones, planificación de trayectorias y aprendizaje por retroalimentación humana.
- La transparencia y la participación pública son esenciales para legitimar las decisiones de los vehículos autónomos.
Fuentes
- Awad, E. et al. (2018). The Moral Machine experiment — https://doi.org/10.1038/s41586-018-0637-6
- Behzadan, V. et al. (2018). TrolleyMod v1.0: An Open-Source Simulation and Data-Collection Platform for Ethical Decision Making in Autonomous Vehicles — https://arxiv.org/abs/1811.05594v1
- Pickering, J. E. y Burnham, K. J. (2022). Predicting Autonomous Vehicle Collision Injury Severity Levels for Ethical Decision Making and Path Planning — https://arxiv.org/abs/2212.08539v1
- Wei, W. y Wang, J. (2023). Ethical Decision-making for Autonomous Driving based on LSTM Trajectory Prediction Network — https://arxiv.org/abs/2308.01022v1
- Geisslinger, M. et al. (2022). An Ethical Trajectory Planning Algorithm for Autonomous Vehicles — https://arxiv.org/abs/2212.08577v1
- Mbrice, T. et al. (2026). The Ethical Decision Head: Operationalizing Normative Ethics in Autonomous Vehicles via Reinforcement Learning from Human Feedback — https://arxiv.org/abs/2608.16710v1
