En un movimiento de alta tecnología que todos podemos poner detrás y no es distópico en absoluto, la Ciudad de Barcelona está alimentando los datos de las cámaras de sus autobuses urbanos en una IA avanzada, pero juran que no están usando las imágenes para emitir billetes a los malos conductores. Sin embargo.
Barcelona y su Zona de Emisiones Bajas en Carreteras de Anillo han ganado muchos fans limitando el tráfico de ICE en el núcleo de la ciudad. La última idea de la ciudad para promover el tránsito masivo es el despliegue de un sistema de inteligencia artificial desarrollado por Hayden AI para la aplicación automática de los carriles reservados y paradas para mejorar la circulación de autobuses, pero aunque parece estar funcionando como se pretendía, plantea preguntas completamente diferentes.
Los carriles de Bus están diseñados para ayudar a ofrecer un servicio de transporte público fiable, rápido y conveniente. Pero los vehículos privados que utilizan ilegalmente carriles bus hacen esto imposible, explica Laia Bonet, primera teniente de alcalde, Área de Urbanismo, Transición Ecológica, Servicios Urbanos y Vivienda en el Ajuntament de Barcelona. Estamos entusiasmados de asociarnos con Hayden AI para aprender dónde ocurren estos problemas y cómo están impactando nuestro servicio de transporte público.
Actualmente funciona como un programa piloto en las líneas de autobuses H12 y D20 de la ciudad, el sistema utiliza cámaras instaladas en los autobuses eléctricos de la ciudad para detectar vehículos que cometen violaciones estáticas en los carriles y paradas del autobús (léase: parada o estacionamiento donde no debería). El sistema Hayden AI analiza entonces esos datos y proporciona información estadística sobre lo que captura mientras el autobús conduce en su ruta diaria.
Hayden AI dice que, si bien fotografía y graba secuencias de video y recopila información contextual de la violación, sus cámaras no graban las matrículas ni las personas y no se están expidiendo sanciones a conductores o propietarios de los vehículos.
Hasta ahora tan bien, verdad? Pero es lo que sucede una vez que el piloto de seis montes ha terminado eso parece que debería estar haciendo las campanas de alarma.
Grande Hermano Bus está mirando
Las imágenes son revisadas manualmente por un oficial de Transports Metropolitans de Barcelona (TMB), que habría revisado unas 2.500 violaciones detectadas por AI solo en mayo. Pero, si bien el sistema no se utiliza para emitir violaciones durante el programa piloto, fácilmente podría.
Y, de hecho, ya lo ha hecho... y la IA se ha desplazado de la fama.
AI escribe miles de entradas malas
Cuando AI recibió la capacidad de emitir citas en la ciudad de Nueva York a principios de este año, escribió más de 290,000 boletos (es correcto: doscientos noventa mil) en sólo tres meses, generando casi 21 millones de dólares en ingresos para la ciudad. El era sólo un problema: miles de esos conductores no estaban haciendo nada malo.
Además, las multas generadas por las cámaras alimentadas por la IA se suponía que debían ser aprobadas sólo después de ser verificadas por un humano, pero o eso no sucedió, o sucedió, o el operador humano en cuestión no estaba prestando atención, o (quizás la peor posibilidad) las violaciones fueron errores o alucinaciones, y el verificador humano no dijo la diferencia.
En las pruebas de OpenAI de sus nuevos modelos de razonamiento o3 y o4-mini, la compañía encontró que el modelo o3 alucinaba el 33% del tiempo durante sus pruebas PersonQA, en las que al bot se le hace preguntas sobre figuras públicas. Cuando se le hicieron preguntas cortas basadas en hechos en las pruebas de la compañía SimpleQA, OpenAI dijo que o3 alucinó el 51% de las veces. El modelo o4-mini le fue aún peor: alucinó el 41% del tiempo durante la prueba PersonQA y el 79% del tiempo en la prueba SimpleQA, aunque OpenAI dijo que su peor desempeño se esperaba ya que es un modelo más pequeño diseñado para ser más rápido. Abrida la última actualización de ChatGPT, GPT-4.5, hallucinaa menos que sus modelos o3 y o4-mini. La compañía dijo que cuando GPT-4.5 fue lanzado en febrero el modelo tiene una tasa de alucinación del 37,1% para su prueba SimpleQA.
No sé ustedes, chicos, pero si teníamos un policía de tráfico local que se equivocó 33% de la hora (en el mejor de los casos), me sorprendería si mantuvieron su trabajo durante mucho tiempo. Pero AI? AI tiene un tren de bombos multimillonarios y ejércitos de creyentes mal educados hablando de singularidades y construyendo robots rubios con tetas. Y una vez que la IA empiece a emitir boletos para la IA que conduce su robotaxi, sólo puede llamar a su amigo AI el banco para enviar su dinero. No es necesario lo humano, en ningún momento, y la economía sigue humillando.
Pero, como, estoy seguro de que está bien. Abrazar el futuro y todo eso ...
https://electrek.co/2025/06/20/the-ticket-bot-cometh-city-is-recording-drivers-that-ai-says-are-bad/
No hay comentarios:
Publicar un comentario