José estaba nervioso, lo mostró en cada movimiento y en el blanco de sus ojos. Mejor: cada segundo del acto de «oficial amistoso» desperdiciado en él era un segundo más para que se ejecutara el script de plausibilidad.
—¿Todo esta bien? —preguntó el policía—.
—Estamos atrasados a la clase, es todo —José era el peor mentiroso. Eran las 7:55 am, la primera campana sonaba a las 8:30 am y estábamos a menos de diez minutos de las puertas—.
—¿Los dos van a Burbank High?
José asintió. Mantuve la boca cerrada.
—Preferiría discutir esto con un abogado presente —fue el turno del policía de rodar sus ojos. Era joven y blanco. Pude ver los tatuajes asomando por su cuello y puños—.
—Identificación, por favor.
Ya había transferido mi licencia de conducir a mi bolsillo de la camisa, para que no tuviera una bolsa que hurgar, sin posibilidad de insistir en que había visto algo que le diera una causa probable para mirar más allá. La sostuve en dos dedos, la tomó y él la pasó por el lector que llevaba en el cinturón. José guardaba su tarjeta de estudiante en una billetera abultada con todo, facturas, billetes y fotografías que había impreso (de chicas) e imágenes que había dibujado (hombres lobo). El policía lo miró con los ojos entrecerrados. Pude verlo tratando de convencerse a sí mismo de que uno o más de esos pedazos de papel revoloteantes podría ser un rollo de fumar y, por lo tanto, parafernalia ilegal de tabaco.
Echó un vistazo a la identificación de José mientras mi amigo recogía todas las cosas que se le cayeron de la billetera cuando la quitó.
—¿Saben por qué los detuve?
—Preferiría responder cualquier pregunta a través de mi abogado. Obtuve un A+ en mi examen escrito sobre derechos de privacidad en la era digital.
—Genia.
—Cállate, José.
El policía sonrió. Sabía que pensaba en palabras como «bravita», que odio. Porque cuando eres negra, mujer y apenas pasas de metro y medio, obtienes un montón de «bravita» y su hermana fea, «bocona».
El policía regresó a su automóvil para buscar su inspector de integridad de camino. Como cualquier otro gadget del mundo, era un rectángulo, un poco más largo y más delgado que una baraja de cartas, pero debido a que era policíaco, tenía una superficie rugosa, con topes de goma negros y amarillos, porque aparentemente ser policía te hace medio torpe. Eché un vistazo al pesado reloj de cuerda que llevaba puesto, miré la segunda manecilla a través de los arañazos en la luna. Dos minutos.
Antes de que el policía pudiera escanear las placas del auto con su aparato, me puse frente a él.
—¿Puedo ver su orden, por favor? —el bravito se volvió bocón ante mis propios ojos—.
—Hágase a un lado por favor señorita —él evitó las comas para mantener la seriedad—.
—Dije que quiero ver su orden.
—Este tipo de búsqueda no requiere una orden, señorita. Es un control de seguridad pública. Por favor, hágase a un lado.
Miré de reojo al reloj otra vez, pero había olvidado dónde estaba la aguja del minutero cuando comencé. Mi pulso latió fuertemente en mi garganta. Dio unos golpecitos en la placa de lectura de la puerta del carro (nosotros todavía la llamábamos la «puerta del conductor» porque así el lenguaje era más divertido).
El automóvil se apagó con un sonido audible mientras la suspensión se relajaba a su estado neutral, el automóvil tembló un poco. Luego escuchamos su campanilla de inicio, y luego otro sonido más plano acompañado de tres parpadeos de luces, tres más, dos más. La herramienta de diagnóstico del policía estaba conectándose con el auto, luego se empantanaría en todo su sistema de archivos y compararía su huella digital con la lista de huellas conocidas que habían firmado tanto el fabricante Uber como la Administración Nacional de Seguridad en el Tráfico de las Carreteras de los Estados Unidos.
La transferencia tomó un par de minutos y, al igual que las generaciones anteriores a nosotros, sufrimos cuando la barra de progreso se estancó, no mirábamos subrepticiamente. José jugaba un tenis ocular intenso conmigo, tratando de determinar si el auto había sido flasheado con éxito antes de que el policía lo revisara. El policía, mientras tanto, miraba la pantalla de la muñeca de su uniforme y el dispositivo que tenía en la mano. Todos escuchamos la campanilla que señala que la transferencia de archivos se completó, luego vimos como el policía tocaba su pantalla para comenzar la verificación de integridad. Generar una huella a partir de la copia del sistema operativo del automóvil tomó unos segundos; mientras tanto, los archivos de registro serían procesados en la nube de los policías y enviados a Officer Friendly como aprobado o reprobado. Cuando tus usuarios finales son policías no técnicos que se encuentran en una concurrida carretera, es necesario que el proceso sea más fácil de interpretar que una prueba casera de embarazo.
Los segundos pasaban. ¡Ding!
—Muy bien.
Muy bien… ¿te llevaré a la cárcel? Muy bien… ¿eres libre de marcharte? Avancé lentamente hacia el automóvil y el policía nos despidió con un movimiento de sus dedos.
—Gracias, oficial.
José olía a sudario. El auto arrancó en su configuración predeterminada de fábrica, y todo fue diferente, desde el visualizador en el parabrisas hasta la voz con la que me pidió indicaciones. Se sentía como el automóvil de otra persona, no como el dulce paseo que había comprado en la subasta de artículos sin respaldo de Uber y reconstruido amorosamente con partes de chatarra y trabajo duro. La adrenalina hizo que me sorprenda cuando entramos en el tráfico, la señalización del automóvil y los cambios de carril fueron un poco menos suaves de lo que habían sido unos minutos antes (si cuidas bien la transmisión, los neumáticos y los líquidos, puedes ajustar la configuración para darle un deslizamiento elegante).
—Man, pensé que estábamos muertos.
—Eso fue dolorosamente obvio, José. Tienes muchas cualidades, pero mantener la cabeza fría no es una de ellas.
Mi voz se quebró cuando terminé. Encontré un tubo de café en el compartimiento del conductor y le mordí el extremo, luego mastiqué el contenido. José me miró suplicante y encontré uno más, el último, la reserva de emergencias para digerir antes de las pruebas sorpresa. Se lo di mientras nos deteníamos en el estacionamiento de la escuela. ¿Para que están los amigos?
Capítulo 4
─ Un verdadero rompe-costillas ─
La madre de Yan había perdido el control y luego, cuando él finalmente llegó a casa, saltó del sofá con los ojos hinchados y la boca abierta, haciendo ruidos que nunca antes había escuchado.
—Mamá, mamá, está bien, estoy bien.
Lo dijo una y otra vez mientras ella lo abrazaba ferozmente, apretándolo hasta que le crujieron las costillas. Nunca antes se había dado cuenta de lo bajita que era, hasta que lo envolvió con sus brazos y se dio cuenta de que podía mirar su coronilla desde arriba y ver como su cabello se estaba tornando gris.
Él había igualado su estatura a los catorce y entonces habían dejado de medir. Ahora, a los 19 años, de repente comprendió que su madre ya no era joven; habían celebrado su sexagésimo cumpleaños ese año; claro, pero eso era solo un número, algo para bromear.
Ella se calmó un poco, él también lloraba; así que preparó café para ambos con el grano favorito de su madre, tostado en St. Kilda. Se sentaron a la mesa y tomaron café mientras suspiraban y lloraban. Había recorrido un largo camino de regreso, y no había sido el único que había recorrido una autopista durante media eternidad, perdido sin servicio móvil y sin mapas, tratando de encontrar a alguien con batería que pudiera acceder a un control de navegación.
—Todas mis redes sociales están llenas de eso, es horrible. Cientos de personas se estrellaron entre sí, contra la barandilla o huyeron de la autopista. Pensé…
—Lo sé, mamá, pero estaba bien. El maldito auto se quedó sin gasolina y simplemente se detuvo. Rodé hasta detenerme, recibí un pequeño golpe del chico detrás de mí, luego su auto me rebasó y salió disparado como llamas. Pobre cabrón, parecía aterrorizado. Tuve que salir y caminar.
—¿Por qué no llamaste?
—Batería muerta. Batería muerta en el auto también. Igual que todos. Conecté mi teléfono tan pronto como me senté, ok, pero creo que el auto en realidad estaba consumiendo mi batería, todos los que conocí en el regreso tuvieron el mismo problema.
Contempló a Yan por un momento, tratando de averiguar si estaba molesta o aliviada. Ella dejó su café y le dio otro de esos abrazos que lo hicieron jadear por aire.
—Te quiero mamá.
—Oh, mi niño, yo también te amo. Dios, oye ¿qué está pasando?
Capítulo 5
─ Revolución, otra vez ─
Hubo otra revolución, así que todas las clases del cuarto período fueron canceladas y en su lugar nos juntaron en equipos aleatorios para investigar todo lo que pudiéramos sobre Siria y presentarlo a otro grupo en una hora, luego los dos grupos eran fusionados y debían presentarse a otros dos equipos, y así sucesivamente, hasta que todos nos reuniésemos en el auditorio para el período final.
Siria es un desastre, déjame decirte. Mi regla de oro para tener buenas notas en estas tareas en vivo sobre el mundo real es buscar artículos de Wikipedia con muchas notas de «cita requerida», leer los argumentos sobre estos hechos en disputa, y luego completar las notas al pie de página con una breve búsqueda en Google. Al ser alguien a quien no le importa un comino el problema, me permito averiguar qué citas serían aceptables para todas las personas que se llaman monstruos entre sí por no estar de acuerdo.
A los docentes les encantó, no paraban de elogiarme por mis «contribuciones al registro viviente sobre el tema» y por «hacer que los recursos sean mejores para todos». Pero la entrada de Siria fue más que larga, y los hechos controvertidos no tuvieron una resolución fácil: ¿el gobierno se llamaba ISIL? ¿ISIS? ¿IS? ¿Qué quería decir Da’esh? Todo había sido un desastre en la época en que estuve en la guardería, y luego se había calmado. Hasta ahora. Había toneladas de niños sirios en mi clase, por supuesto, y sabía que eran como los niños armenios, cabreados por algo que realmente no entendía en un país muy lejano; pero soy estadounidense, eso realmente significa que no le presto atención a ningún país con el que no estemos en guerra.
Luego vino lo del auto. Al igual que aquel en Australia, excepto que no se trataba de terroristas matando a cualquiera que pudieran tener en sus manos: este era un gobierno. Todos vimos las transmisiones en vivo de los terroristas lanza-molotovs, o revolucionarios, o lo que fuera, siendo perseguidos en las calles de Damasco por autos que el gobierno había tomado, algunos de ellos ─¡la mayoría de ellos!─ con personas horrorizadas atrapadas en el interior, golpeando los frenos de emergencia mientras sus autos atropellaban a la gente en la calle, salpicando los parabrisas con sangre.
Algunos de los autos eran de los nuevos con cosas pegajosas en el capó que impedían que las personas a las que atropellaban fueran lanzadas o arrojadas bajo las ruedas; en cambio, se atascaban y gritaban mientras los autos rodaban por callejones estrechos. Era el tipo de cosa para la que necesitabas una nota especial de tus padres que te permita ver «acción» en las clases de estudios sociales. Afortunadamente, mi madre es así de genial. O tal vez fue desafortunado, debido a las pesadillas, pero era mejor estar despierto que dormido. Era real, así que era algo que necesitaba saber.
Capítulo 6
─ Somos artistas, no programadores ─
Las personas del equipo de machine-learning de Huawei se consideraban a sí mismas más como artistas que como programadores. Esa era la primera diapositiva de su presentación, la que mostraban los reclutadores en las grandes ferias de trabajo en Stanford y Ben-Gurion e IIT. Era lo que la gente de aprendizaje automático se decía entre sí, así que repetirlo era simplemente una buena táctica.
Cuando trabajabas para Huawei, tenías acceso a la manguera de incendios: cada trozo de telemetría jamás obtenido por un vehículo Huawei, más todos los conjuntos de datos licenciados de otras grandes compañías automotrices y de logística, hasta los datos de conductor recopilados de personas que usaban monitores ordenados por la corte: delincuentes en libertad condicional, padres abusivos bajo órdenes de restricción, empleados del gobierno. Obtenías los datos post-mortem de los peores accidentes del mundo y todos los datos de simulación de las cuevas de bots: ese vasto campo de batalla virtual donde los algoritmos de aprendizaje automático peleaban para ver quién podía generar la menor cantidad de muertes por kilómetro.
Pero a Samuel le tomó una semana obtener los datos de los secuestros masivos en Melbourne y Damasco. Todo era asunto de seguridad nacional, por supuesto, pero Huawei era un socio de infraestructura crítico de las naciones de los Siete Ojos, y Samuel mantuvo sus autorizaciones vigentes en cuatro países donde tenía acceso a informes directos de seguridad.
Sin esa información, lo que quedaba era tratar de recrear el ataque a través del método de Sherlock: razonamiento abductivo, donde empiezas con un resultado conocido y luego se llega a la teoría más simple posible para cubrir los hechos. Cuando has excluido lo imposible, lo que queda, por improbable que sea, debe ser la verdad, ¡si tan solo eso fuera verdad! Lo que nunca le sucedió a Sherlock, y siempre le sucedió a los hackers de aprendizaje automático, fue que excluyeron lo imposible y luego simplemente no pudieron pensar en la verdadera causa, no hasta que fue demasiado tarde.
Para la gente de Damasco, ya era demasiado tarde. Para la gente de Melbourne, ya era demasiado tarde.
Sin presión, Samuel.
El aprendizaje automático siempre comenzaba con datos. El algoritmo ingiere los datos, los destroza y escinde un modelo, el cuál podías poner a prueba suministrando algunos de los datos que habías dejado fuera de la base de datos de entrenamiento. Le dabas el 90 por ciento de la información de tráfico que tenías, solicitabas que modele respuestas a las diferentes circunstancias del tráfico, luego probabas el modelo en el 10 por ciento reservado para ver si podría navegar correctamente ─es decir, sin fatalidades─ por el tráfico restante.
Los datos podrían estar equivocados de muchas maneras. Siempre estaban incompletos, y lo que quedaba fuera podría sesgar el modelo. Samuel siempre explicaba esto a los grupos escolares visitantes invitándolos a imaginar el entrenamiento de un modelo para predecir la talla a partir del peso con datos de una clase de tercer año. No les llevó mucho tiempo a los niños entender cómo eso podría producir estimados inapropiados para la estatura en adultos, pero el verdadero golpe era revelar que cualquier alumno de tercer año que no estuviera contento con su peso podría optar por no subir a la báscula . «El problema no es el algoritmo, sino los datos utilizados para hacer el modelo». Incluso un niño de escuela podría entender eso.
Pero era más complicado que un simple set de datos sesgado. También estaban los casos especiales: qué hacer si se detectaba la sirena de un vehículo de emergencia (porque no todos los vehículos de emergencia podían transmitir las anulaciones al piloto que enviaban todo el tráfico a las aceras en casos de intercepción legal), qué hacer si un gran rumiante (un ciervo, una vaca, incluso una cebra, porque Huawei vendía automóviles en todo el mundo) se cruzaba frente a un automóvil, y así sucesivamente. En teoría, no había ninguna razón para no utilizar el aprendizaje automático para entrenar esto también: simplemente le decías al algoritmo que seleccione comportamientos que resultaron en los viajes más cortos para vehículos de emergencia simulados. Después de todo, siempre habría circunstancias en que era más rápido para los vehículos conducir un poco más antes de detenerse, para evitar la congestión, y la mejor manera de descubrirlo era extraer los datos y ejecutar las simulaciones.
Los reguladores no aprobaron esto: la programación «artística» no determinista era un truco lindo, pero no sustituía a la dura y rápida lógica binaria de la ley: cuando sucede «x», haces «y». Sin excepciones.
Entonces los casos especiales se multiplicaron, porque eran como cables enredados, era imposible que uno venga solo. Después de todo, los gobiernos entendían cómo los casos especiales podrían ser instrumentos de política.
Mediante casos especiales se excluyó a los sitios piratas y a la pornografía infantil de los resultados de búsqueda, a las instalaciones militares especiales de las fotos satelitales en aplicaciones de mapas, a bandas de radio definidas por software de las bandas de emergencia, a veces había que buscar canales libres de interferencia. Cada uno de esos casos especiales era una oportunidad para hacer travesuras, ya que muchos de ellos eran secretos por definición; nadie quería publicar el directorio más completo del mundo de pornografía infantil en línea, incluso si eso suponía que debía servir como una lista negra, por lo que el compartimento de casos especiales se llenaba rápidamente con todo lo que alguna persona influyente quería, en alguna parte.
Desde juegos de azar y sitios de suicidio asistido que se colaron en la lista de pornografía infantil, pasando por videos anti Kremlin agregados a los filtros de derechos de autor, hasta todas las cosas de «prevención de accidentes» en los autos.
Desde 1967, los especialistas en ética han estado planteando problemas hipotéticos acerca de quién debería ser asesinado por tranvías desbocados: si era mejor empujar a un hombre gordo por las vías (porque su masa detendría el carro) o dejarlo chocar contra una multitud de transeúntes, si la naturaleza bondadosa o maléfica del cordero sacrificado cambiaba la situación, o si las víctimas alternativas fueran niños o personas con enfermedades terminales, o…
El advenimiento de los vehículos autónomos fue una bonanza para las personas a las que les gustaba este tipo de experimentos mentales: si tu automóvil intuyera que estaba a punto de sufrir un accidente, ¿debería salvarte a ti o a los demás? Los gobiernos convocaron mesas redondas secretas para reflexionar sobre la cuestión e incluso llegaron a listas clasificadas: salvar a tres niños en el automóvil era mejor que salvar cuatro niños en la calle, pero se sacrificaría a tres adultos para salvar a dos niños. Al principio, era una diversión inofensiva e incluso linda, y le dio a la gente algo para sonar inteligente en conferencias y cócteles.
Pero fuera de los equipos de diseño de software, nadie hizo la pregunta importante: si pensabas diseñar un automóvil que tratara específicamente de matar a sus dueños de vez en cuando, ¿cómo podrías evitar que esos propietarios reconfiguraran esos autos para nunca matarlos?
Samuel había estado en esas reuniones, donde personas medio brillantes de las compañías automotrices de la vieja línea aseguraron a los burócratas de los ministerios de transporte que no habría problemas en diseñar autos inteligentes «blindados» que resistirían la modificación del usuario final. Mientras tanto, gente más brillante del lado de la ley se frotaba las manos pensando en todos los problemas que se podrían resolver si los autos pudieran diseñarse para hacer ciertas cosas cuando recibían señales provenientes de las autoridades. Especialmente si los fabricantes y los tribunales colaboraran para mantener el inventario de esos casos especiales tan secreto como las listas de bloqueo de pornografía infantil en los firewalls nacionales.
Después, estuvo en las sesiones de diseño, donde debatieron sobre cómo ocultarían los hilos y archivos de esos programas, cómo modificarían el ciclo de arranque del automóvil para detectar alteraciones y alertar a las autoridades, cómo las herramientas de diagnóstico proporcionadas a la mecánica para revisiones rutinarias podría usarse para verificar dos veces la integridad de todos los sistemas.
Luego comenzó a recibir grandes pedazos de código (blobs) ofuscados y firmados por contratistas que prestaban servicios a gobiernos de todo el mundo, desarrollando aplicaciones «prioritarias de emergencia» que, se suponía, él debía incluir, sin inspeccionarlas. Por supuesto, realizó pruebas individuales antes de que Huawei enviara las actualizaciones, y cuando inevitablemente dañaban su código, Samuel daba vueltas y vueltas con los contratistas, que querían tener acceso a todo su código fuente sin permitirle ver ningún pedazo de los suyos.
Para ellos, tenía sentido comportarse de esa manera. Si no podía ayudarlos a insertar su código en la flota Huawei, tendría que responder ante los gobiernos de todo el mundo.
