{"id":84,"date":"2022-10-07T14:46:56","date_gmt":"2022-10-07T17:46:56","guid":{"rendered":"https:\/\/itconnect.lat\/portal\/?p=84"},"modified":"2022-10-07T14:46:56","modified_gmt":"2022-10-07T17:46:56","slug":"redes-neuronales-00000000002022","status":"publish","type":"post","link":"https:\/\/itconnect.lat\/portal\/redes-neuronales-00000000002022\/","title":{"rendered":"Redes Neuronales: \u00bfevoluci\u00f3n o amenaza del siglo 21?"},"content":{"rendered":"

El tema de las redes neuronales ahora est\u00e1 de moda: el trabajo de DALL-E<\/a> y Midjourney<\/a> parpadea en la Web.<\/h2>\n

Aparecen instrucciones en los recursos en l\u00ednea sobre c\u00f3mo implementar redes neuronales populares en su computadora o en la “nube” y usarlas para resolver algunos problemas personales.<\/p>\n

En este sentido, en IT CONNECT LATAM<\/a> nos interes\u00f3 el tema de las amenazas que plantea el uso generalizado del aprendizaje autom\u00e1tico.<\/p>\n

En cierto sentido, las redes neuronales son cada vez m\u00e1s accesibles para los usuarios, incluidos los inescrupulosos.<\/p>\n

Y estas redes neuronales ya saben bastante, que, entre otras cosas, pueden usarse lejos de buenos prop\u00f3sitos.<\/p>\n

Decidimos hablar de esto con Alexander Gostev<\/a>, el principal experto en tecnolog\u00eda de Kaspersky y uno de los anfitriones permanentes del podcast Change Your Password!.<\/p>\n

Si hablamos del pasado reciente, entonces las redes neuronales han dominado r\u00e1pidamente el campo de las falsificaciones profundas del porno.<\/h3>\n

Sin embargo, esta ola se calm\u00f3 r\u00e1pidamente, tambi\u00e9n debido a la conciencia de los desarrolladores y la comunidad, que no permitieron la distribuci\u00f3n de este tipo de herramientas entre el p\u00fablico en general.<\/h3>\n

Pero esta est\u00e1 lejos de ser la \u00fanica \u00e1rea de aplicaci\u00f3n potencial del aprendizaje autom\u00e1tico.<\/h3>\n

\u00bfQu\u00e9 m\u00e1s podr\u00eda ser peligroso?<\/h3>\n

\u00bfQu\u00e9 ejemplos de mal uso de las redes neuronales podemos esperar en el futuro previsible?<\/h3>\n

Gostev-<\/strong> En general, el porno siempre ha sido el motor de la tecnolog\u00eda. No solo para redes neuronales, sino tambi\u00e9n en principio.<\/p>\n

Internet deber\u00eda estarle agradecido, ya que los servicios de video han crecido en gran medida gracias a la demanda de este tipo.<\/p>\n

Ahora vemos que hay deepfakes.<\/p>\n

Primero se usaron en la pornograf\u00eda, luego fueron a la gente, por lo que ahora falsifican im\u00e1genes de cualquier persona, de cualquier manera, superponiendo cualquier cosa.<\/p>\n

Y es casi imposible de reconocer.<\/p>\n

Esto lleva al hecho de que los atacantes intentar\u00e1n llevar dichas tecnolog\u00edas a un nivel en el que puedan usar estos deepfakes para eludir los sistemas de autorizaci\u00f3n, por ejemplo, en bancos o en alg\u00fan lugar del campo, localmente.<\/p>\n

El desarrollo de deepfakes en este sentido es un problema grande y prometedor para varios sistemas de autorizaci\u00f3n.<\/p>\n\n\n\n
\"\"<\/a><\/td>\nInformaci\u00f3n de valor para ejecutivos que toman decisiones de negocios<\/strong><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

En cuanto a las redes neuronales en general, se ha dicho durante mucho tiempo que, en alg\u00fan momento, los atacantes comenzar\u00e1n a usarlas.<\/p>\n

Para llevar a cabo alg\u00fan tipo de \u201cataques astutos\u201d que podr\u00e1n eludir los m\u00e9todos de protecci\u00f3n existentes.<\/p>\n

Por ejemplo, la red neuronal intentar\u00e1 atacar, analizar\u00e1 de forma independiente c\u00f3mo fue repelido este ataque y generar\u00e1 r\u00e1pidamente un nuevo escenario.<\/p>\n

Aqu\u00ed soy m\u00e1s esc\u00e9ptico.<\/p>\n

No creo que los ciberdelincuentes se molesten con el aprendizaje autom\u00e1tico, porque una persona har\u00e1 frente a esta tarea m\u00e1s r\u00e1pido y mejor.<\/p>\n

No veo mucho riesgo aqu\u00ed.<\/p>\n

Me preocupa m\u00e1s el hecho de que los piratas inform\u00e1ticos puedan usar redes neuronales para analizar datos robados.<\/p>\n

Debido a que las filtraciones ocurren todo el tiempo, ya se han filtrado vol\u00famenes gigantescos de bases de datos.<\/p>\n

Ahora, los atacantes suelen estar interesados \u200b\u200ben un peque\u00f1o conjunto de datos: inicio de sesi\u00f3n, contrase\u00f1a, correo, etc.<\/p>\n

Y las bases gigantes robadas est\u00e1n lejos de ser utilizadas al 100%, no se construyen dependencias entre ellas.<\/p>\n

Porque es dif\u00edcil.<\/p>\n

Al mismo tiempo, cuando a los atacantes se les ocurre algo que les permita tomar estos datos, crear dependencias entre ellos, recopilar varios datos.<\/p>\n

En funci\u00f3n de indicadores indirectos, recopilar un perfil m\u00e1s completo de una persona, esto puede volverse un problema.<\/p>\n

Se puede establecer una analog\u00eda con la miner\u00eda de datos en las grandes empresas de Internet, que, en base a datos dispares, forman un perfil psicol\u00f3gico y social, y luego comienzan a mostrar anuncios dirigidos.<\/p>\n

Y si estos datos son suficientes para realizar campa\u00f1as publicitarias dirigidas, entonces estos datos son suficientes para realizar ataques dirigidos, por ejemplo, de phishing.<\/p>\n

\u00bfExiste el riesgo de que en un futuro previsible las redes neuronales se utilicen para promocionar marcas o, por ejemplo, pol\u00edticos?<\/h3>\n

\u00bfDe modo que, por ejemplo, la red neuronal “camina” en la Web, deja publicaciones significativas, rese\u00f1as, forma la opini\u00f3n p\u00fablica sobre algunos temas o “atrae” al usuario en la direcci\u00f3n que necesita el propietario de la red neuronal?<\/h3>\n

Gostev-<\/strong> Una red neuronal no puede establecer ninguna tarea por s\u00ed misma, cumple un objetivo muy espec\u00edfico.<\/p>\n

\u00bfPuede una red neuronal escribir textos significativos que se llegar\u00edan al alma?<\/p>\n

Creo que si, no hay problema.<\/p>\n

Tenemos redes neuronales que escriben textos, m\u00fasica, im\u00e1genes, etc.<\/p>\n

En t\u00e9rminos de generar alg\u00fan tipo de creatividad, realmente hacen un gran trabajo.<\/p>\n

Es poco probable que la red neuronal vaya y publique algo por s\u00ed misma, pero creo que puede generar algunos textos de acuerdo con la agenda de noticias.<\/p>\n

\"Amenazas<\/a>
Amenazas de las redes neuronales<\/figcaption><\/figure>\n

Y si, por ejemplo, Elon Musk va a la presidencia de los Estados Unidos. Y como uno de los fundadores de OpenAI les dir\u00e1 a sus subordinados: es necesario atraer la opini\u00f3n p\u00fablica a esto y establecer la tarea de la red neuronal de tal manera que genere textos por s\u00ed misma, los siembre en la Web en los lugares correctos. Hablando en t\u00e9rminos generales, tener una llamada “f\u00e1brica de trolls” digitalizada. \u00bfPodr\u00eda suceder esto en un futuro previsible?<\/h3>\n

Gostev-<\/strong> Por un lado, s\u00ed, por otro lado, est\u00e1 la cuesti\u00f3n de ad\u00f3nde conducir\u00e1 todo esto en \u00faltima instancia.<\/p>\n

Tan pronto como aparezca alg\u00fan tipo de tecnolog\u00eda, no puede ser exclusiva, todos comenzar\u00e1n a usarla, y muy r\u00e1pidamente.<\/p>\n

En alg\u00fan momento habr\u00e1 una p\u00e9rdida final de confianza.<\/p>\n

Cuando la gente entienda que, en general, todo lo que escriben en Internet son bots de redes neuronales.<\/p>\n

Entonces eso es todo: usted, como usuario, simplemente bajar\u00e1 el nivel de percepci\u00f3n, dejar\u00e1 de confiar en todo lo que est\u00e1 escrito all\u00ed.<\/p>\n

Es decir, tal tecnolog\u00eda puede funcionar, pero me parece que solo una vez.<\/p>\n

\"Google<\/a>
Google y el futuro de las redes neuronales<\/figcaption><\/figure>\n

Hace unos a\u00f1os, Google public\u00f3 algo as\u00ed como planes sobre c\u00f3mo se presenta la empresa en el futuro. La corporaci\u00f3n dijo que si ahora responde preguntas espec\u00edficas, en el futuro ayudar\u00e1 a tomar decisiones y describir\u00e1 en detalle a qu\u00e9 conducir\u00e1 este o aquel evento. \u00bfQu\u00e9 traje comprar? \u00bfQu\u00e9 pasa si me peleo con esta persona? \u00bfA qu\u00e9 conducir\u00e1 este acuerdo en el futuro? Aqu\u00ed, \u00bflas redes neuronales pueden ayudarnos de alguna manera?<\/h3>\n

Gostev-<\/strong> Esta es una palabra sobre asistentes digitales personales. Me parece que en el futuro las personas tendr\u00e1n sus propios asistentes virtuales personalizados que sabr\u00e1n todo sobre ellos y a qui\u00e9n recurrir\u00e1n con tales preguntas.<\/p>\n

Realmente creo que ir\u00e1 en esa direcci\u00f3n.<\/p>\n

Y solo por el hecho de que supuestamente ser\u00e1 un dispositivo personalizado: es solo suyo, no le da informaci\u00f3n a nadie, nadie excepto usted tiene acceso a \u00e9l.<\/p>\n

Frente al mismo Google, que lo sabe todo de todos y se lo da a todos.<\/p>\n

Ah\u00ed es cuando se resuelve el problema de la privacidad: solicitudes, intereses, etc., creo que esta tecnolog\u00eda disparar\u00e1. Dado que una persona realmente necesita alg\u00fan tipo de asesor, y a\u00fan m\u00e1s deseable es el que tomar\u00eda estas decisiones por \u00e9l.<\/p>\n

\u00bfPero existe el peligro de que quien cargue el conjunto de datos en esta red neuronal influya en si le aconsejar\u00e1 tomar esta o aquella decisi\u00f3n en su inter\u00e9s o en el de otra persona?<\/h3>\n

Gostev-<\/strong> Por supuesto.<\/p>\n

Pero en una situaci\u00f3n en la que recurrimos a amigos y conocidos con solicitudes similares “y acons\u00e9jenme algo aqu\u00ed”.<\/p>\n

Ellos tambi\u00e9n pueden darle consejos, no guiados espec\u00edficamente por sus intereses, sino por algunos propios.<\/p>\n

No hay nuevos riesgos en este sentido, siguen siendo exactamente los mismos.<\/p>\n

 <\/p>\n

Por Marcelo Lozano – General Publisher IT CONNECT LATAM<\/p>\n","protected":false},"excerpt":{"rendered":"

El tema de las redes neuronales ahora est\u00e1 de moda: el trabajo de DALL-E y Midjourney parpadea en la Web. Aparecen instrucciones en los recursos en l\u00ednea sobre c\u00f3mo implementar redes neuronales populares en su computadora o en la “nube” y usarlas para resolver algunos problemas personales. En este sentido, en IT CONNECT LATAM nos […]<\/p>\n","protected":false},"author":2,"featured_media":86,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"default","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[55],"tags":[187,185,186,184],"class_list":["post-84","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-analisis-de-datos-e-ia","tag-elon-musk","tag-google","tag-kaspersky","tag-redes-neuronales"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/posts\/84","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/comments?post=84"}],"version-history":[{"count":0,"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/posts\/84\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/media\/86"}],"wp:attachment":[{"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/media?parent=84"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/categories?post=84"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/itconnect.lat\/portal\/wp-json\/wp\/v2\/tags?post=84"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}