Google tiene tolerancia cero política para contenidos que contengan violencia contra niños. A veces, el proceso de escaneo puede salir mal y personas inocentes pueden ser etiquetadas como abusadores.

Cuando Jennifer Watkins recibió un mensaje de YouTube de que su canal estaba siendo cerrado, al principio no se preocupó. Después de todo, ella no usó YouTube.

Sin embargo, sus hijos gemelos de 7 años usaron la tableta con su cuenta de Google para ver contenido infantil e hicieron videos en YouTube de ellos mismos haciendo bailes tontos. Pocos de estos videos recibieron más de cinco visitas. Pero el vídeo que metió en problemas a Watkins, filmado por uno de sus hijos, era de otra naturaleza.

Así se afirma en el material de The New York Times.

“Obviamente era un vídeo a tope”, dijo Watkins, que nunca había visto el vídeo. “Un compañero de clase lo convenció para que apareciera desnudo”.

La inteligencia artificial y sus capacidades

YouTube, propiedad de Google, tiene sistemas basados ​​en inteligencia artificial. inteligencia, que ven cientos de horas de videos subidos al servicio cada minuto. El proceso de escaneo a veces puede salir mal y personas inocentes pueden ser contaminadas como abusadores de niños.

El New York Times ha documentado otros episodios en los que la vida digital de los padres se vio trastornada por fotos y vídeos de sus hijos desnudos que fueron marcados por los sistemas de inteligencia artificial de Google y determinados como ilegales por revisores humanos. Como resultado, algunos padres han sido investigados por la policía.

El “vídeo de desnudos” del caso Watkins, subido en septiembre, fue señalado en cuestión de minutos como posible explotación sexual de un niño. lo cual supone una violación de las condiciones de servicio de los servicios de Google con consecuencias muy graves.

Cuenta bloqueada

Watkins, una trabajadora sanitaria que vive en Nueva Gales del Sur, Australia, pronto descubrió que estaba bloqueada no solo en YouTube, sino también en todas sus cuentas de Google. Dijo que perdió el acceso a sus fotos, documentos y correo electrónico, lo que significa que no podía recibir mensajes sobre su horario de trabajo, ver extractos bancarios o “pedir un batido espeso” a través de la aplicación de McDonald's, a la que accedió usando su cuenta de Google. p>

Su cuenta finalmente fue eliminada, como se le informó en su página de inicio de sesión de Google, pero podía apelar la decisión. Hizo clic en el botón Iniciar apelación y escribió en el cuadro de texto que sus hijos de 7 años pensaban que las nalgas eran divertidas y que ellos eran los responsables de subir el vídeo.

“Esto me duele financieramente “, añadió.

Monitoreo global

Los defensores de los niños y los legisladores de todo el mundo están presionando a las empresas de tecnología para que detengan la difusión de imágenes hirientes en línea mediante el monitoreo de dichos materiales en sus plataformas.

Muchos proveedores de comunicaciones ahora escanean fotos y vídeos almacenados y compartidos por sus usuarios para encontrar imágenes conocidas de violencia que hayan sido denunciadas a las autoridades.

Google también quería poder marcar imágenes nunca antes vistas. -Contenido de imágenes vistas. Hace unos años desarrollaron un algoritmo entrenado en imágenes conocidas que intenta identificar nuevos materiales operativos; Google lo ha puesto a disposición de otras empresas, incluidas Meta y TikTok.

Después de que un empleado confirmara que el vídeo publicado por su hijo Watkins era problemático, Google lo informó al Centro Nacional para Niños Desaparecidos y Explotados, una organización sin fines de lucro que actúa como cámara de compensación federal para contenidos designados. El centro puede agregar el video a su base de datos de imágenes conocidas y decidir si reportarlo a las autoridades locales.

Según las estadísticas del centro nacional, Google es una de las mayores fuentes de informes de “pornografía infantil explícita”. El año pasado, Google presentó más de dos millones de informes, mucho más que la mayoría de las empresas de comunicaciones digitales, pero menos que el número de informes presentados por Meta.

¿Juicios cuestionables?

< pdir="ltr">Los expertos dicen que es difícil juzgar la gravedad del problema del abuso infantil basándose únicamente en números. En un estudio de una pequeña muestra de usuarios señalados por compartir imágenes inapropiadas de niños, los analistas de Facebook dijeron que más del 75 por ciento no tenía intenciones maliciosas. Los usuarios incluyeron adolescentes que mantienen relaciones románticas y comparten imágenes íntimas de ellos mismos, así como personas que compartieron “un meme de un animal mordiendo los genitales de un niño porque les parece gracioso”.

Apple no se ha visto presionada para escanear iCloud en busca de material de explotación. El portavoz señaló una carta que la compañía envió este año a un grupo de derechos humanos expresando su preocupación por “la seguridad y privacidad de nuestros usuarios” y diciendo que “partes inocentes están quedando atrapadas en una red oscura”.

El otoño pasado, la directora de confianza y seguridad de Google, Susan Jasper, escribió en una publicación de blog que la compañía planea actualizar su proceso de quejas para “mejorar la experiencia del usuario” para las personas que “creen que tomamos malas decisiones”.

< p>Aspectos destacados El cambio es que la empresa ahora proporciona más información sobre los motivos de la suspensión de la cuenta, en lugar de un mensaje general sobre una “violación grave” de la política de la empresa. A Watkins, por ejemplo, le dijeron que el motivo de su bloqueo era la explotación infantil.

Recuperación de cuenta

A pesar de ello, las repetidas apelaciones de Watkins fueron rechazadas. Tenía una cuenta paga de Google que les permitía a ella y a su esposo enviar mensajes a los agentes de servicio al cliente. Pero en correos electrónicos revisados ​​por The Times, los agentes dijeron que el video, incluso si fue un acto inconsciente de un niño, aún violaba la política de la empresa.

Un castigo draconiano por un vídeo sin sentido parece injusto, afirmó Watkins. Se pregunta por qué Google no pudo haberle advertido antes de cortarle el acceso a todas sus cuentas y a más de 10 años de recuerdos digitales.

Después de más de un mes de intentos fallidos de convencer al empresa cambie de opinión, Watkins habló con The Times. Un día después de que un periodista preguntara sobre su caso, su cuenta de Google fue restaurada.

“No queremos que nuestras plataformas se utilicen para poner en peligro o explotar a los niños, y existe una demanda generalizada de que las plataformas en línea tomen las medidas más enérgicas posibles para identificar y prevenir el abuso sexual infantil”, dijo la compañía en un comunicado. “En este caso, entendemos que el contenido que vulnera los derechos del niño no fue subido de forma maliciosa”.

La empresa no respondió de qué otra manera influir en la desestimación del recurso. aparte de enviar una carta por correo electrónico al reportero de The Times.

“Dos caras de la misma moneda”

Google se encuentra en una posición difícil al tratar de resolver este tipo de quejas, dijo Dave Willner, miembro del Centro de Política Cibernética de la Universidad de Stanford que ha trabajado en cuestiones de confianza y seguridad en varias empresas de tecnología importantes. Incluso si una foto o un vídeo es de origen inocente, se puede compartir con intenciones maliciosas.

“Los pedófilos compartirán imágenes que sus padres tomaron inocentemente o las reunirán en colecciones, porque no Sólo quiero ver niños desnudos”, dijo Wilner.

Otro problema es el gran volumen de contenido potencialmente explotador que Google etiqueta.

“Es simplemente un problema muy, muy difícil regular los juicios de valor a esta escala”, dijo Willner. “Toman cientos de miles o millones de decisiones al año. Cuando tiras los dados tantas veces, te salen ojos de serpiente”.

Dijo que los problemas de Watkins después de perder el acceso a Google eran “un buen argumento para extender su vida digital” y No dependa de una sola empresa para muchos servicios.

Watkins aprendió otra lección de esta experiencia: los padres no deben usar su cuenta de Google para la actividad de sus hijos en Internet, sino que deben crear una cuenta dedicada. elección que Google recomienda.

Aún no ha creado uno para los gemelos. Por ahora tienen prohibido el uso de Internet.

Lea también:

Temas similares:

Más noticias