El tema de las redes neuronales ahora está de moda: el trabajo de DALL-E y Midjourney parpadea en la Web.
Aparecen instrucciones en los recursos en línea sobre cómo implementar redes neuronales populares en su computadora o en la “nube” y usarlas para resolver algunos problemas personales.
En este sentido, en IT CONNECT LATAM nos interesó el tema de las amenazas que plantea el uso generalizado del aprendizaje automático.
En cierto sentido, las redes neuronales son cada vez más accesibles para los usuarios, incluidos los inescrupulosos.
Y estas redes neuronales ya saben bastante, que, entre otras cosas, pueden usarse lejos de buenos propósitos.
Decidimos hablar de esto con Alexander Gostev, el principal experto en tecnología de Kaspersky y uno de los anfitriones permanentes del podcast Change Your Password!.
Si hablamos del pasado reciente, entonces las redes neuronales han dominado rápidamente el campo de las falsificaciones profundas del porno.
Sin embargo, esta ola se calmó rápidamente, también debido a la conciencia de los desarrolladores y la comunidad, que no permitieron la distribución de este tipo de herramientas entre el público en general.
Pero esta está lejos de ser la única área de aplicación potencial del aprendizaje automático.
¿Qué más podría ser peligroso?
¿Qué ejemplos de mal uso de las redes neuronales podemos esperar en el futuro previsible?
Gostev- En general, el porno siempre ha sido el motor de la tecnología. No solo para redes neuronales, sino también en principio.
Internet debería estarle agradecido, ya que los servicios de video han crecido en gran medida gracias a la demanda de este tipo.
Ahora vemos que hay deepfakes.
Primero se usaron en la pornografía, luego fueron a la gente, por lo que ahora falsifican imágenes de cualquier persona, de cualquier manera, superponiendo cualquier cosa.
Y es casi imposible de reconocer.
Esto lleva al hecho de que los atacantes intentarán llevar dichas tecnologías a un nivel en el que puedan usar estos deepfakes para eludir los sistemas de autorización, por ejemplo, en bancos o en algún lugar del campo, localmente.
El desarrollo de deepfakes en este sentido es un problema grande y prometedor para varios sistemas de autorización.
 | Información de valor para ejecutivos que toman decisiones de negocios |
En cuanto a las redes neuronales en general, se ha dicho durante mucho tiempo que, en algún momento, los atacantes comenzarán a usarlas.
Para llevar a cabo algún tipo de “ataques astutos” que podrán eludir los métodos de protección existentes.
Por ejemplo, la red neuronal intentará atacar, analizará de forma independiente cómo fue repelido este ataque y generará rápidamente un nuevo escenario.
Aquí soy más escéptico.
No creo que los ciberdelincuentes se molesten con el aprendizaje automático, porque una persona hará frente a esta tarea más rápido y mejor.
No veo mucho riesgo aquí.
Me preocupa más el hecho de que los piratas informáticos puedan usar redes neuronales para analizar datos robados.
Debido a que las filtraciones ocurren todo el tiempo, ya se han filtrado volúmenes gigantescos de bases de datos.
Ahora, los atacantes suelen estar interesados en un pequeño conjunto de datos: inicio de sesión, contraseña, correo, etc.
Y las bases gigantes robadas están lejos de ser utilizadas al 100%, no se construyen dependencias entre ellas.
Porque es difícil.
Al mismo tiempo, cuando a los atacantes se les ocurre algo que les permita tomar estos datos, crear dependencias entre ellos, recopilar varios datos.
En función de indicadores indirectos, recopilar un perfil más completo de una persona, esto puede volverse un problema.
Se puede establecer una analogía con la minería de datos en las grandes empresas de Internet, que, en base a datos dispares, forman un perfil psicológico y social, y luego comienzan a mostrar anuncios dirigidos.
Y si estos datos son suficientes para realizar campañas publicitarias dirigidas, entonces estos datos son suficientes para realizar ataques dirigidos, por ejemplo, de phishing.
¿Existe el riesgo de que en un futuro previsible las redes neuronales se utilicen para promocionar marcas o, por ejemplo, políticos?
¿De modo que, por ejemplo, la red neuronal “camina” en la Web, deja publicaciones significativas, reseñas, forma la opinión pública sobre algunos temas o “atrae” al usuario en la dirección que necesita el propietario de la red neuronal?
Gostev- Una red neuronal no puede establecer ninguna tarea por sí misma, cumple un objetivo muy específico.
¿Puede una red neuronal escribir textos significativos que se llegarían al alma?
Creo que si, no hay problema.
Tenemos redes neuronales que escriben textos, música, imágenes, etc.
En términos de generar algún tipo de creatividad, realmente hacen un gran trabajo.
Es poco probable que la red neuronal vaya y publique algo por sí misma, pero creo que puede generar algunos textos de acuerdo con la agenda de noticias.
Y si, por ejemplo, Elon Musk va a la presidencia de los Estados Unidos. Y como uno de los fundadores de OpenAI les dirá a sus subordinados: es necesario atraer la opinión pública a esto y establecer la tarea de la red neuronal de tal manera que genere textos por sí misma, los siembre en la Web en los lugares correctos. Hablando en términos generales, tener una llamada “fábrica de trolls” digitalizada. ¿Podría suceder esto en un futuro previsible?
Gostev- Por un lado, sí, por otro lado, está la cuestión de adónde conducirá todo esto en última instancia.
Tan pronto como aparezca algún tipo de tecnología, no puede ser exclusiva, todos comenzarán a usarla, y muy rápidamente.
En algún momento habrá una pérdida final de confianza.
Cuando la gente entienda que, en general, todo lo que escriben en Internet son bots de redes neuronales.
Entonces eso es todo: usted, como usuario, simplemente bajará el nivel de percepción, dejará de confiar en todo lo que está escrito allí.
Es decir, tal tecnología puede funcionar, pero me parece que solo una vez.
Hace unos años, Google publicó algo así como planes sobre cómo se presenta la empresa en el futuro. La corporación dijo que si ahora responde preguntas específicas, en el futuro ayudará a tomar decisiones y describirá en detalle a qué conducirá este o aquel evento. ¿Qué traje comprar? ¿Qué pasa si me peleo con esta persona? ¿A qué conducirá este acuerdo en el futuro? Aquí, ¿las redes neuronales pueden ayudarnos de alguna manera?
Gostev- Esta es una palabra sobre asistentes digitales personales. Me parece que en el futuro las personas tendrán sus propios asistentes virtuales personalizados que sabrán todo sobre ellos y a quién recurrirán con tales preguntas.
Realmente creo que irá en esa dirección.
Y solo por el hecho de que supuestamente será un dispositivo personalizado: es solo suyo, no le da información a nadie, nadie excepto usted tiene acceso a él.
Frente al mismo Google, que lo sabe todo de todos y se lo da a todos.
Ahí es cuando se resuelve el problema de la privacidad: solicitudes, intereses, etc., creo que esta tecnología disparará. Dado que una persona realmente necesita algún tipo de asesor, y aún más deseable es el que tomaría estas decisiones por él.
¿Pero existe el peligro de que quien cargue el conjunto de datos en esta red neuronal influya en si le aconsejará tomar esta o aquella decisión en su interés o en el de otra persona?
Gostev- Por supuesto.
Pero en una situación en la que recurrimos a amigos y conocidos con solicitudes similares “y aconséjenme algo aquí”.
Ellos también pueden darle consejos, no guiados específicamente por sus intereses, sino por algunos propios.
No hay nuevos riesgos en este sentido, siguen siendo exactamente los mismos.
Por Marcelo Lozano – General Publisher IT CONNECT LATAM