Hasta hace poco, el éxito más grande de Hoan Ton-That era una aplicación que permite que la gente se ponga el distintivo cabello amarillo de Donald Trump en sus fotografías.
Después, Ton-That hizo algo trascendental: inventó una herramienta que podría acabar con tu habilidad de caminar por la calle de manera anónima y la proporcionó a cientos de agencias del orden público.
Clearview AI, su pequeña compañía, ideó una innovadora aplicación de reconocimiento facial. Tomas la fotografía de una persona, la cargas y puedes ver fotografías públicas de esa persona junto con enlaces que te llevan a los sitios donde aparecieron esas fotos. El sistema -que depende de una base de datos de más de 3000 millones de imágenes que, según Clearview, fueron extraídas de Facebook, YouTube, Venmo y millones de sitios web más- va mucho más allá de cualquier otra cosa que hayan creado el gobierno estadounidense o los gigantes de Silicon Valley.
Los agentes de la policía federal y estatal dijeron que, aunque solo tenían información limitada sobre la manera en que funciona Clearview y de quienes la crearon, habían usado su aplicación para ayudar a resolver casos de hurto en tiendas, robo de identidad, fraude con tarjetas de crédito, asesinato y explotación sexual infantil.
Hasta ahora, las tecnologías que de inmediato identifican a las personas con base en su rostro han sido tabú debido a la erosión radical que provocan en la privacidad.
Sin embargo, sin el escrutinio público, más de 600 agencias del orden público han comenzado a usar Clearview durante el año pasado, de acuerdo con la compañía, que rechazó proporcionar una lista. El código informático en el que se basa su aplicación, el cual fue analizado por The New York Times, incluye lenguaje de programación que permite combinarlo con visores de realidad aumentada; los usuarios posiblemente serían capaces de identificar a todas las personas que vieran.
Clearview también ha autorizado el uso de la aplicación a por lo menos un puñado de empresas por motivos de seguridad.
“Las posibilidades de convertirla en un arma son infinitas”, dijo Eric Goldman, codirector del High Tech Law Institute en la Universidad de Santa Clara. “Imaginemos a un agente de policía deshonesto que quiere acosar a posibles parejas románticas, o a un gobierno extranjero que la usa para revelar secretos sobre personas que después podrá chantajear o enviar a la cárcel”.
Clearview se ha rodeado de hermetismo para evitar el debate sobre su tecnología que acaba con los límites establecidos. Cuando comencé a investigar a la compañía en noviembre, su sitio web era una página austera que mostraba una dirección no existente en Manhattan como su lugar de negocios. El único empleado de la compañía que puede consultarse en LinkedIn, un gerente de ventas llamado “John Good”, resultó ser Ton-That, pero con un nombre falso. Durante un mes, las personas afiliadas a la empresa no respondieron mis correos electrónicos ni mis llamadas telefónicas.
Aunque la empresa me estaba evadiendo, también me estaba monitoreando. Después de que así lo solicité, algunos policías cargaron mi fotografía en la aplicación de Clearview. Poco después, recibieron llamadas de representantes de la compañía que les preguntaron si estaban hablando con los medios, una señal de que Clearview tiene la capacidad y, en este caso, el apetito de monitorear a las personas que la policía está buscando.
La tecnología de reconocimiento facial siempre ha sido controvertida. La aplicación de Clearview conlleva riesgos adicionales porque las agencias del orden público están cargando fotografías confidenciales a los servidores de una empresa cuya capacidad de proteger sus datos no se ha puesto a prueba.
La compañía terminó por responder mis preguntas y señaló que su silencio previo era típico en una empresa emergente que va comenzando en modalidad furtiva. Ton-That reconoció haber diseñado un prototipo para su uso con visores de realidad aumentada, pero dijo que la empresa no tenía planeado lanzarlo. Además, dijo que mi fotografía había sonado la alarma porque la aplicación “identifica posibles comportamientos anómalos de búsqueda” con el fin de evitar que los usuarios lleven a cabo lo que describió como “búsquedas inapropiadas”.
Además de Ton-That, Clearview fue fundada por Richard Schwartz -que fue asesor de Rudy Giuliani cuando fue alcalde de Nueva York- y respaldada financieramente por Peter Thiel, el inversor de capital de riesgo detrás de Facebook y Palantir.
Otro primer inversionista es una pequeña firma llamada Kirenaga Partners. David Slazo, su fundador, rechazó las preocupaciones acerca de que Clearview está haciendo que se pueda buscar a las personas por su rostro en internet y dijo que es una herramienta valiosa para resolver delitos.
“He llegado a la conclusión de que, debido a que la información aumenta constantemente, jamás habrá privacidad”, comentó Scalzo. “Las leyes deben determinar lo que es legal, pero no puedes prohibir la tecnología”.
Adictos a la inteligencia artificial
Ton-That, de 31 años, creció muy lejos de Silicon Valley, en Australia, su país de origen. En 2007, abandonó la universidad y se mudó a San Francisco. El iPhone acababa de ser lanzado, y su objetivo era incursionar de manera temprana en lo que, según esperaba, sería un vibrante mercado de aplicaciones de redes sociales.
En 2015, creó Trump Hair, una aplicación que agregaba el peinado distintivo de Trump a las personas que se encontraban en una fotografía, y un programa de intercambio de fotografías. Ambos fracasaron.
Ton-That se mudó a Nueva York en 2016. Comenzó a leer artículos académicos sobre la inteligencia artificial, el reconocimiento de imágenes y el aprendizaje automático.
Schwartz y Ton-That se conocieron en 2016 en un evento de libros en el Instituto Manhattan, un grupo conservador de expertos. Schwartz, ahora de 61 años, había reunido un número impresionante de contactos cuando trabajó para Giuliani en la década de 1990. Poco después, ambos decidieron incursionar juntos en el negocio del reconocimiento facial: Ton-That construiría la aplicación y Schwartz utilizaría sus contactos para activar el interés comercial.
Los departamentos de policía han tenido acceso a las herramientas de reconocimiento facial durante casi veinte años, pero históricamente se han limitado a buscar imágenes proporcionadas por el gobierno, como fotografías de prontuario y de licencias de conducir.
Ton-That quería ir más allá de eso. Comenzó en 2016 con el reclutamiento de un par de ingenieros. Uno ayudó a diseñar un programa que puede recolectar automáticamente imágenes del rostro de la gente en internet, a través de sitios de empleo y redes sociales, por ejemplo. Los representantes de esas compañías dijeron que sus políticas prohíben ese tipo de recolección de datos.
Contrataron a otro ingeniero para perfeccionar un algoritmo de reconocimiento facial que se creó a partir de artículos académicos. El resultado: un sistema que usa lo que Ton-That describe como una “red neuronal de vanguardia” para convertir todas las imágenes en fórmulas matemáticas, o vectores, con base en la geometría facial, con datos como la distancia que hay entre los ojos de una persona, por ejemplo. Clearview creó un gran directorio que agrupaba todas las fotografías con vectores similares en “vecindarios”. Cuando un usuario carga la fotografía de un rostro en el sistema de Clearview, este convierte el rostro en un vector y después muestra todas las fotos extraídas y almacenadas en el vecindario de ese vector, junto con los enlaces a los sitios de donde provienen esas imágenes.
