De acuerdo a nuestras ideas más apocalípticas acerca de la extinción humana y a nuestro repertorio de películas donde nuestra especie es aniquilada por robots súper avanzados, solemos creer que esta rebelión ocurrirá de manera abrupta y violenta. Pensamos que un día una legión de máquinas tomarán conciencia y las armas para librar una batalla cuerpo a cuerpo con nosotros por el dominio de la Tierra y la supremacía de la vida.
Pero tal parece que las formas de suplantación de nuestras vidas, cuerpos e identidades se dan de formas más sutiles, sin que las máquinas hagan uso de un exoesqueleto o armas letales. Lo único que hasta el momento necesitan es un nombre común que despersonalice, pervierta y confunda las líneas divisorias entre la identidad humana y la maquinal. Este es el caso de la inteligencia artificial Alexa de Amazon, que está causando estragos emocionales y psicológicos en niñas que comparten el nombre con esta.
En Reino Unido se presentó una serie de demandas dirigidas a la empresa Amazon para que modifiqué el nombre de su asistente virtual Alexa, pues ha provocado burlas hacia niñas que llevan ese nombre y a las que en todos los ámbitos de su vida se les juegan bromas pesadas. El tema de las burlas siempre es el mismo, ordenarle cosas a las niñas que llevan ese nombre como se haría al ingresar un comando de voz en el dispositivo de Amazon.
La gama de las burlas puede ir desde lo muy inocente, pero molesto por repetitivo, pasando por lo hiriente con peticiones absurdas o groseras hasta violentas o incluso sexuales. Este abanico de burlas y abusos no se restringe únicamente a las niñas, también mujeres mayores sufren en sus ámbitos laborales o profesionales por burlas del mismo estilo. Bromas que, lanzadas a media presentación de su trabajo, buscan demeritar su labor y su persona.
Las quejas se han hecho llegar a Amazon, que todavía no responde de manera adecuada a la petición, pues ha dicho que lamenta los problemas causados, pero que el aparato cuenta con otros nombres opcionales. Según la empresa, Alexa es un nombre que para ellos representa la empatía, la calidez y la confianza de una voz humana. Sin embargo, resulta obvio que la elección de género para este tipo de asistentes está inclinada hacia el sexo femenino, como el caso de Apple con Siri.
Detrás de estas burlas, los padres de las niñas exponen el dolor, la despersonalización y la ansiedad que sufren sus hijas al enfrentarse a las mismas burlas todos los días. Los problemas que estos chistes implican son de índole sexista, pues a las niñas se les ordena que hagan algo, por lo tanto, en el fondo, las burlas tienen que ver con una noción del placer del dominio y la humillación de la servidumbre.
Heather, madre de una adolescente, expuso las injusticias contra su hija al decir que esta no quiere presentarse cuando conoce a gente nueva por miedo a las burlas. Además, Heather señaló los pocos cuestionamientos éticos que se le hacen a una tecnología de este tipo y a la empresa Amazon:
Amazon debe cambiar la palabra de activación predeterminada en sus dispositivos. Está claro que no se han hecho suficientes investigaciones éticas sobre el uso de Alexa.
Esto resulta realmente importante cuando la empresa también enfrenta acusaciones por las fallas de seguridad en sus dispositivos infantiles, en los que se ha detectado grabaciones no consentidas por los padres ni los menores y en las que no existe un protocolo claro acerca de la seguridad de todo el material privado que las familias deciden almacenar en él.
Alexa graba y registra de manera rutinaria a millones de niños sin su consentimiento ni el de sus padres. Esta práctica viola la ley de California, la cual prohíbe la grabación de comunicaciones orales sin el consentimiento de todas las partes involucradas en la comunicación.
En Estados Unidos se ha generado un movimiento nombrado “Alexa es humana”, que busca hacer conciencia en las personas acerca de este problema y, al mismo tiempo, poner presión sobre la empresa Amazon, que se ha pronunciado en contra de todo tipo de acoso, pero que hasta el momento no ha hecho nada para evitar estas conductas reprobables que se fomentan desde la configuración de sus dispositivos, como los padres e hijas afectadas señalan.
Las más de 400 mil niñas que en el Reino Unido se han mostrado en disconformidad con Amazon dejan de experimentar un simple chiste para tener que lidiar con la crueldad humana. Este se trata de un caso que concuerda muy bien con las ideas del filósofo italiano Giorgio Agamben, para quien la vida humana se encuentra atrapada y deformada en los dispositivos, categoría que no se refiere únicamente a los aparatos tecnológicos, sino a todas aquellas cosas que presionan y controlan nuestras identidades y cuerpos. Ya sea Alexa, el mismo lenguaje o el tipo de humor.
Hasta en las sagas más complejas de ciencia ficción, el dominio de la máquina sobre el hombre se lleva a cabo librando una supuesta guerra cara a cara, incluso Matrix, que cuenta con un fuerte trasfondo filosófico y una siniestra estética visual. Pero las cosas suelen ser más sencillas. El simple hecho de bautizar a la máquina con un nombre propio parece borrar del mundo a miles de niñas que, por desgracia, llevan el mismo alias.
