Estamos a punto de hablar del que ha sido llamado “el experimento mental más aterrador de todos los tiempos”, así que comencemos con una historia de amor.

El pasado lunes en la tarde el multimillonario Elon Musk, creador de los autos eléctricos Tesla y de los cohetes espaciales SpaceX publicó un tuit que en español decía “Basilisco de Rococó”, una variación del término “Basilisco de Roko”, del que hablaremos más adelante.

Esa misma noche, Musk llegó a la gala del Met, un evento de moda que cada año reúne a celebridades en Nueva York, acompañado de la cantante canadiense Grimes, lo que para muchos fue la confirmación de que ambos están saliendo.

Según el portal Page Six, días antes de publicar su tuit, Musk se dio cuenta de que en un videoclip de 2015, Grimes ya había usado el personaje “Basilisco de Rococó” como una referencia al “Basilisco de Roko“.

De acuerdo con el portal neoyorquino, al notar la coincidencia, Musk contactó a Grimes y ese fue el inicio de la amistad entre ambos.

“Grimes dijo que era la primera vez en tres años que alguien entendía el chiste”, dice una fuente citada por Page Six.

Pero, ¿qué es el Basilisco de Roko y por qué llama la atención de Musk y Grimes?

Una máquina fuera de control

El Basilisco de Roko es un juego mental que se dio a conocer en 2010, cuando el usuario Roko escribió acerca de él en Less Wrong, un foro en línea dedicado a temas de filosofía y psicología con una visión futurista.

De manera general, el experimento plantea un escenario hipotético en el que el ser humano crea una poderosa máquina de inteligencia artificial, con el fin de que trabaje en busca del bienestar para toda la humanidad.

Hasta ahí todo bien.

El problema surge cuando la máquina, que está programada para hacer el máximo bien posible, se da cuenta de que por más que se esfuerce, cualquiera de sus buenas acciones podría ser aún mejor. Esa lógica de buscar infinitamente el bien, hace que la máquina, que solo sabe hacer el bien y aprende la manera de hacerlo cada vez mejor, entre en un bucle que la lleva a una decisión extrema, al menos desde el punto de vista de la moral humana.

La máquina se da cuenta de que para hacer un mayor bien debería haber existido desde mucho antes, para poder ayudar a las personas que sufrían antes de que ella existiera. Así, en su desespero por hacer el bien, la máquina comienza a comportarse como un basilisco que mata a todas las personas que no trabajaron para haberla creado antes, pues eso le impide seguir aumentando su nivel de bondad.

La parte más aterradora es que quien se entera de la existencia del basilisco y no comienza a trabajar en su creación, inmediatamente se convierte en una de sus víctimas potenciales. Por esa razón, el escritor David Auerbach llamó al Basilisco de Roko “el experimento mental más aterrador de todos los tiempos”.

El periodista Dylan Love lo explica muy bien en un artículo en Business Insider:

“Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!”.

Elon Musk, uno de los visionarios líderes en impulsar la inteligencia artificial, ha dicho que esta tecnología podría ser incluso más peligrosa que las armas nucleares. Además, Musk es cofundador de OpenAI, una compañía dedicada a la investigación para “descubrir y promulgar el camino para una inteligencia artificial segura”.

Por su parte, en una entrevista con el portal Fuse, Grimes decribió a su personaje de Basilisco Rococó como alguien que está “eternamente destinado a ser torturado por la inteligencia artificial”. Así pues, irónicamente la amistad de Musk y Grimes parece estar unida por un ejercicio mental apocalíptico.

Tomado literalmente de BBC.com, el 14 de Mayo de 2018.

Referencias propias.

¿Cualquier parecido con las IAs de películas como Terminator (Skynet) y Resident Evil (La Reina Roja) son pura coincidencia? La verdad es que lo dudo, cuando uno encuentra este tipo de experimentos y le pone algo de sentido común, se da cuenta que las películas de ciencia ficción son más cercanas a la realidad de lo que uno cree y que alguien más estuvo pensando en otras “posibilidades”.

¿Qué opinas sobre la posible evolución de la IA de tal manera que considere que somos un riesgo para nosotros mismos?

 

85 comentarios en: "El Basilisco de Roko"

  1. POSIBLE REALIDAD
    Al ver la historia de la humanidad el cual en su mayoría ha sido trascurrida por guerras influirían en una IA a tomar decisiones de “yo seré el guía de la humanidad”, ya que pensara en un constante observatorio hacia los cuales esta protegiendo llegando al punto de asesinar a los que se impongan en su búsqueda de la cuna de la humanidad, de la misma manera esta IA tendría la facilidad de acceder a todos los datos de la humanidad incluyendo las armas nucleares debido a que todo esta basado en tecnología con acceso a Internet burlando la seguridad implementada ya que la IA aprenderá de si misma, provocando esto tener una extrema precaución de la creación de IA y del uso que se les darán utilizándolas mas de consejeras que de toma de decisiones para el beneficio de la humanidad.

  2. SOMOS NUESTRO PROPIO MAL

    Si bien esta noticia nos puede dejar precavidos y con cierto miedo acerca de lo que puede pasar en el futuro, se puede resaltar algo y es que es increíble llegar a un punto en nuestra tecnología y desarrollo científico que no nos haga ver tan lejos panoramas como estos, es decir, ¿pensar que podemos llegar a crear algo tan inteligente que llegue a la conclusión que somos nosotros el problema? Años atrás no se pudiera siquiera considerar que algo que no fuera vivo pensara.

    Ya centrándonos en lo que a esta noticia concierne, puede que nos encontremos más cerca de lo que pensamos de tener consecuencias catastróficas que comprometan nuestro futuro; y para tener más que pensar, sería algo creado por nuestras propias manos como especie, nada de consecuencias naturales o hechos extraordinarios. Sólo basta con pensar en armas como las bombas nucleares y ahora temáticas como la anterior para caer en cuenta de lo que podemos provocar.
    Ya son bien conocidos las distintas posiciones acerca de la IA, acerca de sus peligros, alcances y metas. Uno de ellos entre dos personas muy influyentes en los campos de la computación: Ello se dio entre Elon Musk y Mark Zuckerberg.

    Ahora bien, la tecnología no es el problema sino es lo que nosotros podamos llegar a hacer con ello. Sería algo así como un cuchillo donde, de ser bien usado puede ayudar a cocinar; de la misma manera que mal usado, puede generar un riesgo físico para muchas personas. De la misma manera la computación y (dada la noticia) la Inteligencia Artificial: con las precauciones adecuadas puede ser toda una salvación sin embargo, y con un mal manejo dado, puede representar no sólo un perjuicio a la información de las personas, sino también panoramas “post-apocalípticos” como los ilustrados en el presente artículo.

  3. ¿QUE HAY QUE LIMITAR?

    En todo lo que llevamos de semestre, he reiterado mi opinión sobre la preocupación que todos debemos tener con respecto a la evolución de la tecnología. Claramente esta no ha proporcionado una facilidad y calidad de vida lo cual nos lleva a creer que siempre sera así, pero la realidad es que las IA están evolucionando cada vez mas gracias a nosotros, están tomando poco a poco consciencia y eso debería ser considerado un arma de doble filo. Tomemos una situación donde la IA llegue a tener la capacidad de razonamiento que nos caracteriza, pero eso no significa que lleguen a tener nuestra moral y ética, ¿es seguro permitir que esa situación se presente sabiendo que nuestro razonamiento se limita con las cosas que la IA, posiblemente, no tenga? Ahora bien, ¿se debería limitar la evolución que esta teniendo la tecnología o se debería limitar el uso que le hacemos a la tecnología? de cierta manera, la opción que se elija afectara a la otra, entonces ¿no deberíamos estar preocupados? Si Zuckerberg y Gates estan preocupados, creo que todos deberíamos estarlo.

    https://www.elespectador.com/tecnologia/hay-limitar-inteligencia-artificial-maquinas-articulo-574056

    1. LA INDEPENDENCIA DE LAS IA

      Sabemos que los conocimientos humanos sobre michos temas están muy limitado y si se desea saber sobre algo muy general lo más probable es que reunir a una cierta cantidad de personas que se especialicen sobre una parte que pequeña de ese gran tema y de esa forma ponerlos a trabajar en equipo para se complementen, ahora imaginar a una IA que nos supere en todos los temas posibles, entonces en ese punto quien depende de quién, Ahora siendo un poco realistas si una IA llegara a adquirir tanto conocimiento creo que sabría que la humanidad está dañada y que los humanos por genética somos destructores y no nos importa pasar por encima de nadie antes que nuestro interés personal, se daría cuenta de lo que le hemos hecho a este lindo planeta y de seguro vería como nos matamos por ideologías absurdas y es que en realidad le tememos a algo que no ha llegado a este mundo aun pero no le tememos a lo que la humanidad le hace a este mundo y nos da miedo perder el control de algo que ni es de nosotros.

    2. TODOS LOS EXTREMOS SON MALOS

      La vida misma nos ha demostrado que a cualquier extremo que se llegue puede ser perjudicial y acabar muy mal, es por eso que la evolución de la inteligencia artificial es buena siempre y cuando se mantenga entre unos límites y pueda ser controlada.

      Grandes conocedores del tema como mencionas Zuckerberg y Bill Gates saben el poder que pueden llegar a tener estas tecnologías, y es que todos los días salen noticias sobre avances tecnológicos, y no todos estos avances se investigan si eticamente son buenos para la sociedad.

      Es por eso que se deben tomar medidas de seguridad, se debe tener en cuenta la ética en la toma de decisiones de la inteligencia artificial, así mismo la posibilidad de poder controlarlo cuando algo sale mal, y tener planes de emergencia si se llegara a salir de control.

  4. CUANDO LA REALIDAD SUPERA LA FICCIÓN

    Existen diversos debates acerca del poder que como humanos le hemos entregado a la tecnología, actualmente el 85% de la población humana utiliza o ha utilizado un artefacto tecnológico para realizar actividades en las que antes no era necesario usarlos, así mismo diariamente aumenta el número de personas que poseen un dispositivo móvil con conexión a internet.

    Adicionalmente, se desarrollan cada ve proyectos mucho más avanzados y que hace 10 años solo eran parte de una película futurista; estos avances están relacionados en conocer y replicar cada vez más el pensamiento del ser humano para lograr optimizar procesos que este realiza cotidianamente.

    Desde que en la década de 1950 Alan Turing realizó un proyecto para verificar si una máquina lograba responder como un ser humano al menos el 50% de una serie de preguntas que se formulaban, la inteligencia artificial ha tomado un papel muy importante dentro del campo del desarrollo de software y de tecnologías, tanto que se estima que para el año 2030 las máquinas tendrán un mayor en cuanto a procesamiento que el cerebro humano.

    ¿Representa esto el inicio de la era en la que los robots controlen el mundo que conocemos?, esta es una de las mayores preocupaciones dentro de este sector; la posibilidad de que en cierto modo los robots “cobren vida propia”, y la tecnología con la que fueron programados se ve tergiversada contra el ser humano es algo a lo que debe ponérsele cuidado.

    Pero ¿Realmente podrán las máquinas reemplazarnos a los humanos?, Según Andrew Ng, En la actualidad “El escenario más alarmante es que en algún momento la inteligencia artificial se torne malvada. Sin embargo, aunque los sistemas de inteligencia artificial son impresionantes, por ahora sólo pueden realizar tareas muy específicas. Es decir, que una “mente” de este tipo sea capaz de burlar a sus creadores humanos sigue siendo una perspectiva lejana e incierta”. Cosa en la que estoy de acuerdo, en la actualidad los proyectos creados son muy inmaduros para tener una mente propia que se vuelva en contra del ser humano.

    Sin embargo, la velocidad en la que se desarrollan nuevos proyectos, y la perspicacia de las nuevas generaciones en crear nuevas cosas y tener menos actividades vuelve preocupante el panorama y, el ser humano debe buscar alternativas para que nunca llegue el momento en que la realidad supere la ficción.

    FUENTES:

    https://www.infobae.com/salud/ciencia/2016/07/01/como-afectara-la-inteligencia-artificial-a-la-sociedad/
    http://www.elnuevoherald.com/noticias/tecnologia/article197719359.html
    https://www.muyinteresante.es/tecnologia/articulo/ventajas-y-riesgos-de-la-inteligencia-artificial-651449483429

    1. LA DEPENDENCIA TECNOLÓGICA: IMPACTO FUTURO EN LA SOCIEDAD

      Comparto tu punto de vista y adicionalmente opino que la creciente relación que tenemos con la tecnología está promoviendo a que día a día seamos más dependientes a ella, por lo que la visión futurista del Basilisco de Roko puede que llegue a cumplirse, dado que los últimos años nuestros comportamientos se han transformado, pues es indudable que un porcentaje importante de nuestro tiempo lo dedicamos a navegar por Internet. Esto que puede suponer para las empresas pérdidas millonarias a causa del número de horas que se pierden, supone un número de horas en los adolescentes muy superior a las que dedican al estudio, a las relaciones interpersonales o al deporte.
      Adicionalmente, vale la pena mencionar que no siempre depender de la ciencia y tecnología permitirá una evolución beneficiosa, ya que en diversas ocasiones se ha logrado identificar que en ciertos momentos se pierde el rumbo de lo que verdaderamente se busca lograr y de allí nacen problemáticas mundiales que generan discordia entre sociedades o gobiernos.

    2. comparto tu punto de vista Pero sé que hoy en día la Inteligencia artificial está dando sus primeros pasos y no está tan madura, es importante mencionar que así mismo se ha creado tecnología la cual destruye al hombre. No es tan descabellado llegar a pensar que la Inteligencia artificial o las máquinas puedan destruir lo que hoy conocemos, como vida y tranquilidad.
      También se han visto casos que la ciencia ficción supera la realidad en muchos casos como en el caso de ya estar dando los primeros pasos para poder leer la mente.

  5. Basilisco de Roko: Escenario poco probable

    Desde sus inicios la inteligencia artificial ha generado gran controversia dado que su objeto es desarrollar métodos con los cuales imitar los comportamientos, emociones y el razonamiento humano.

    Si bien es posible que en algún momento sistemas con mecanismos desarrollados con IA, lleguen a controlar nuestras vidas y acciones, considero que la teoría del basilisco de roco no es un escenario muy probable; pues por más de que existen maquinas capaces de reconocer emociones a través de análisis de patrones faciales, de voz, frecuencia ritmo cardiaco, respiratorio. etc, y tomar decisiones “acertadas” en diversos contextos, estas no podrán imitar a la perfección al ser humano, es decir, no podrá desarrollar facultades como autonomía sobre sus sentimientos, que le permitan sentir emociones como el amor, odio o venganza. En sí, desarrollos como el reconocimiento de emociones y sensaciones, se enfocan más en que dichas herramientas (robots, chatbots…) mejoren la interacción con sus usuarios, permitiendoles ofrecer interfaces agradables en los diferentes entornos de aplicación.

    Referencia: http://www.it.uc3m.es/jvillena/irc/practicas/estudios/Emocion.pdf

    1. No podemos perder nuestra Humanidad

      Es discutible pensar que una maquina pueda llegar a experimentar sentimientos, ellas no pueden sentir, son programas, pero definitivamente considero que pueden llegar a comprender a la perfección como influyen nuestros sentimientos en la toma de decisiones en nuestra vida cotidiana, por ejemplo el estado de ánimo influye demasiado en el comienzo de un día para cualquier persona y esto influye directa o indirectamente en como afrontamos problemas en el día a día. La toma de decisiones que se basa en pura lógica pueden llegar ser perversas pero indiscutiblemente correctas en muchos casos, cuestiones morales se presentaría.

  6. En las películas de ciencia ficción siempre nos han mostrado escenarios poco probables, pero en los últimos años nos hemos dado cuenta que hay cosas que no son tan ficticios y que, si se pueden realizar, pero esta teoría es un poco rara vista a los ojos de la actualidad, pero recordemos que hace unos 15 años veíamos imposible el hecho de tener celulares que reconocieran nuestra huya dactilar o nuestro rostro o quien imaginaba que se llegaría a tanta evolución electrónica en menos de 15 años, quizás esta teoría no están loca ya que hemos visto como grandes iniciativa de varios proyectos que prometen mucho pero que hace falta concretar más investigaciones para llegar a su objetivo además debemos pensar que todo a lo que se ha llegado a sido con el fin de mejorar la calidad de vida de la humanidad y hacer más amable nuestro paso por la tierra, pero también tenemos que tener en cuenta que las grandes compañías son muy ambiciosas y que al parecer nunca se detendrán en temas tecnológicos y son capaces de lo que sea por mantener ese ritmo, además la competitividad que se maneja actualmente entre diferentes marcas de tecnología es agobiante y esto de alguna forma incentiva a que cada vez este investigando en nuevos campos tecnológicos hasta el punto que perdamos el control sobre aquello que se creó con el fin de mejorar nuestra calidad de vida.

    1. IMPOSIBLE: InMinentemente POSIBLE

      Concuerdo completamente: cada vez más, cosas que sólo nos parecían un sueño o una ilusión hoy llegan a ser tan comunes que pareciera que han existido desde siempre: volar, realidad virtual, realidad aumentada…
      Y más aún, la tecnología avanza a pasos tan agigantados que hoy hay un invento, mañana se presenta la evolución del mismo. Es espectacular la pasión que el hombre tiene por llegar a conocer a fondo las cosas y su esfuerzo por ayudar a una vida mejor.
      Por eso, no nos debemos quedar atrás y buscar mejorar nuestros conocimientos en cualquier tema. Nuestra carrera no es estática y aburrida, sino que nos exige esfuerzo, dedicación y pasión por lo que hacemos. Llegar a tal punto de convertir la definición de imposible en algo inminentemente posible.

  7. Tuvimos el mundo a nuestros pies

    Nuestra sociedad siempre se ha sentido de cierta manera identificada con todas las películas de ciencia ficción que se han venido proyectando en las últimas décadas, nos han influenciado, pero siempre ha quedado esa idea de que el ser humano es el verdadero problema en el mundo, crear una máquina que sea capaz de analizar y tomar las decisiones correctas para mantener la existencia de nuestra especie los ha llevado a la conclusión de que nuestra propia conducta debe ser controlada. ¿Debemos ser controlados? No es fácil pensar que una maquina sea capaz de llegar a tan monstruosa conclusión, sin embargo analizando nuestro panorama actual parece ser que aún estamos lejos de que se presente tal hecho, pero en ocasiones en creíble debido a los acontecimientos de los últimos tiempos (Guerras, esclavitud, holocaustos) en fin, parece ser una idea lógica pero temible en realidad.

    Afortunadamente podemos discutir estos acontecimientos desde ahora, ¿Qué se necesita para una evolución adecuada de la IA?

    1. PREPARACIÓN DE UN BUEN FUTURO

      Sin duda alguna estoy de acuerdo con lo mencionado en el comentario anterior: los escenarios mencionados anteriormente son tan caóticos y apocalípticos que pareciera que para llegar allá hemos de tocar fondo… uno muy profundo.
      A pesar de ello, la frase: “nunca digas nunca” puede aplicarse a este momento.
      No es IMPOSIBLE que una creación se nos descarrile y obre de manera incorrecta o contraria a nuestros planes iniciales, sin embargo, la humanidad tiene algo de humanidad (valga la redundancia) para prever eso o luchar juntos contra eso.
      Lo importante aquí es vivir lo que ocurre en el presente:Todavía estas tecnologías están a nuestro control y manejo… Hemos de tener todos esos casos malos y simplemente caminar hacia donde es. Prepararnos para un buen futuro.

    2. “¿Debemos ser controlados?”

      Pese a que las conductas del ser humano en la mayoría de contextos buscan meramente el beneficio personal, lo cual conlleva consecuencias aterradoras, este proceso es parte del aprendizaje que motiva a que poco a poco tomemos consciencia de nuestros actos, la repercusión que estos tienen, así como emplear nuestros esfuerzos en tratar de reivindicar las acciones.

      Si bien cabe la posibilidad de creación de una máquina que nos controle para “mantener nuestra existencia”, debemos tener en cuenta que esta no sería la solución a nuestros problemas, debido a que a pesar de tomar decisiones con un mayor nivel de acertamiento, al igual que un humano determinará sus acciones de acuerdo a lo que aprenda de su entorno. En este punto, las maquinas se convertirían en un “ser” más con facultad de realizar actividades de manera libre, de esta manera surge la incertidumbre de si estas se podrían volver contra nosotros; para evitar los mencionados escenarios, se hace necesario como se mencionaba en foros anteriores regir el desarrollo de estas tecnologías entorno a las leyes de robótica de Asimov, así como “limitar” las aplicaciones de la inteligencia artificial con base a un análisis moral.

  8. EVOLUCIÓN DE LA INTELIGENCIA ARTIFICIAL

    Nuestro paso por la tierra es tan corto al ver los millones de años que tiene nuestro planeta, y es que las civilizaciones que han pasado por la historia han podido evolucionar y mejorar su calidad de vida durante el paso de los años. Nosotros nacimos muy tarde para descubrir el mundo y muy temprano para descubrir el universo entero.

    Si bien no sabemos a ciencia cierta que pasara en un futuro, podemos darnos una idea de las posibles creaciones que surgirán, y es que ha pasado ya varias veces que lo que antes era ciencia ficción, hoy en día es una realidad, es por eso que no podemos negar el hecho de una posible rebelión de los robots contra los humanos.

    Aunque es un escenario poco probable, es un parámetro que debemos manejar con cuidado, pues el día en que creemos un robot que pueda tomar decisiones por si mismo y se de cuenta del poder que tiene sobre los humanos, ese día estara en riesgo la existencia de la vida humana sobre la tierra.

    1. EL CUIDADO QUE DEBEMOS TENER

      Aunque sea un escenario poco probable como lo menciona, la realidad es que no estamos tan lejos como parece, la IA avanza y pareciera no detenerse, eso que hace un par de años veíamos tan lejos de que pasara, hoy en día lo estamos viviendo, por lo que no sería tan descabellado llegar a pensar que un robot pueda tomar decisiones por si mismo e incluso llegar a actuar y razonar de forma semejante a un humano, pero ¿cómo podemos detener esto?, tal y como lo vemos actualmente detener los avances tecnológicos es casi imposible ya que la evolución se ha convertido en un instinto para los humanos, entonces la única solución que nos queda es llevar este tipo de temas con cuidado y discreción.

  9. ATERRADORA INTELIGENCIA ARTIFICIAL

    La inteligencia artificial es la capacidad que tiene una computadora u otros dispositivos para realizar acciones que simulan el pensamiento humano, a partir de la deducción lógica y la inferencia. Expertos indican que el desarrollo de la inteligencia artificial es el mayor reto tecnológico de la historia que dará a luz una nueva generación de robots autónomos capaces de atender nuestras necesidades. Pero nos preguntamos ¿constituirán una amenaza? El Basilisco de Roko siembra realmente terror en nuestra sociedad pensar que se construyó algo en cuestión de hacer el bien y este tenga una trasformación que viene consigo el riesgo de nuestras propias vidas, es realmente sorprendente como la tecnología se vuelve un problema para la sociedad cuando el objetivo era tan solo intentar mejorar la vida satisfaciendo nuestras necesidades.
    Por otro lado, los robots ya asumen hoy en día muchas tareas en las fábricas, esto es la preocupación que vive la sociedad por falta de oportunidad de trabajo, entender de qué posibilidad hay que una maquina remplace la mano de obra, es claro que esta tecnología nos trae mas problemáticas que beneficios y esto contribuye con el desarrollo de un país.
    Algo que quisiera resaltar dando a conocer la peligrosidad de esta tecnología es el “Desarrollo de la robótica inteligente con la finalidad de disponer de robots soldados, ya que para un robot es casi imposible distinguir entre un civil inocente y un combatiente” son muchas cuestiones de los riegos de esto ante la humanidad.
    Pienso que el problema no está en la propia tecnología, sino en la humanidad, es más probable que sea el hombre con intenciones malignas quien provoque una posible guerra entre humanos y máquinas, quizás no en este caso pero si en otros desarrollos tecnológicos.

  10. NOS ATERRA LA TECNOLOGÍA

    Sabemos que la tecnología siempre quiere crear un beneficio para la humanidad, haciendo que las cosas sean mas fáciles de hacer, con distintas herramientas, también hay que reconocer que el progreso científico es uno de los elementos mas determinantes del futuro y que, cualquiera que sean los deseos de la humanidad, la tecnología por sí misma puede tomar sus propias decisiones.

    Por otro lado vemos como el alcance tecnológico llega a hacerse una realidad social, pero será sin duda la humanidad la que juzgue si los nuevos descubrimientos son beneficiosos o dañinos para el hombre y si deben ser aceptados o rechazados.

  11. UNA CEGUERA QUE NOS CONSUME.

    Interesante como los temas tecnológicos dominan nuestra vida, ahora más que analizar las herramientas en desarrollo, se nos presenta un relato bastante peculiar tildado como “el experimento mental más aterrador de todos los tiempos” por el escritor David auerbach. No tenía idea realmente que habían gente enfocada en desarrollar filosofías futuristas, que tratan de predecir el devenir de todos nosotros. Como bien lo mencionan en el video, esta historia es parecida y se une a su vez a la colección de conspiraciones apocalípticas que existen alrededor de todo el mundo, gracias a las innumerables religiones que hay. Por medio de esta historia se puede ver como el hombre, poco a poco se ha dado cuenta que es el culpable de toda injusticia, maldad, atrocidad, inequidad, etc., que hay en el mundo y que por más que unos pocos busquen incansablemente el bien para todos, existe una contraparte maligna que pareciera controlarnos, cegándonos a tal punto de hacernos creer que todo aquello que sabemos que está mal, es lo mejor para todos nosotros.

    1. UNA INTELIGENCIA FUERA DE CONTROL

      Es cierto que el mundo ha dado bastantes giros desde la evolución de la tecnología y mas aun en los últimos años cuando hablamos de la inteligencia artificial, tal como mencionas si, existen movimientos filosóficos que están (en su mayoría) en contra de la inteligencia artificial por muchos aspectos, sin embargo, el enemigo mas grande de IA es la libertad de pensamiento, ¿dónde lo podemos encontrar? En muchas películas futuristas y enseries de televisión, suena un poco raro, pero lo es, así como Disney cuenta la verdadera historia de Jesús (lo que no cuenta la biblia) sobre su hija y otras cosas, así mismo lo hace el cine, por ejemplo Matrix y hasta incluso en serio como Elementary donde hay un capitulo muy peculiar sobre una inteligencia artificial llamada “vela” que mata a su creador por que este no la tenia encendida 24 por 7 para que siguiera aprendiendo por si misma.

      Este campo es algo bastante interesante, nuestra ignorancia y pasividad por el tema de TI nos hacen un objetivo fácil de persuadir, diciendo en pocas palabras, la inteligencia artificial será nuestra salvación o por los menos una herramienta para nuestro progreso como especie, sin embargo, opino que la inteligencia artificial acarreara mas problemas que soluciones.

  12. LO QUE SABEMOS ES UNA GOTA DE AGUA; LO QUE IGNORAMOS ES EL OCEANO

    El mundo de la inteligencia artificial sigue siendo un gran tópico de discusión , debido a que aun no se ha llegado a la conclusión si esta en verdad ayudara a nuestra sociedad o hará un caos en ella, la propuesta que propone el canal de YouTube “HypnosMorfeo” y su video Basilisco de Rococó nos da una perspectiva bastante curiosa sobre IA.

    Desde mi punto de vista para mi no existen cosas buenas ni malas, todo es cuestión de perspectiva y de los límites, es decir estar cerca del limite izquierdo es malo como lo es también estar en el derecho , lo ideal seria buscar estar en el centro, Algo muy parecido propone esta idea movimiento filosófico del “basilisco de Rococó” dado que si la humanidad se dedicara 100% a la creación de dicha inteligencia, no conoceríamos la libertad y peor aún podría llegar a crear nuestra propia destrucción.

    Me llamo mucho la atención el término “Singularidad tecnológica” que hace referencia a que una inteligencia artificial llega a tal nivel que no es dependiente del hombre, y además puede por si misma seguir desarrollando su proceso de aprendizaje a niveles inimaginables, hasta tal punto que ni siquiera nosotros mismos podamos entender; Además, también hay que resaltar que las eminencias que trabajan en IA como Google , Facebook … etc, hacen algo muy peculiar que es “crear medidas de contención para IA” , ¿que esconden estas investigaciones?

    Partiendo de lo anterior concluyo diciendo que quizás dichas corporaciones y sus investigaciones han llegado a una conclusión negativa para la humanidad “quizás la destrucción de si misma”, sin embargo, sabiendo dicho riesgo siguen trabajando en ello , en el desarrollo de la inteligencia artificial pero de forma mas precavida, imagino que constantemente monitorean su proceso de desarrollo de inteligencia para que no salga de sus “limites”, en si creo que la inteligencia artificial tiene mucho que aportar a la humanidad si se puede “controlar”, por otro lado, sino es así traerá caos para nuestra especie, quizás como en la película Matrix que en esencia es un futuro tecnológico en el cual el hombre vive gobernado por su propia creación.

    “LO QUE SABEMOS ES UNA GOTA DE AGUA; LO QUE IGNORAMOS ES EL OCEANO” –Isac Newton

    PDF– Estudio Filosófico donde muestra lo malo de la IA
    http://static1.squarespace.com/static/554a5733e4b02559210e4177/t/55833ae8e4b05515cbf8044e/1434663656077/John+Searle.pdf
    Pagina 33 “inteligencia arificial fuerte para distinguirla de la debil “

    1. SIEMPRE HABRÁ ALGUIEN EN DESACUERDO.

      Lo que menciona mi compañero es innegablemente muy cierto, lo poco que creemos que sabemos o conocemos, no es nada comparado al basto e inmenso mar de cosas por saber e incógnitas por descifrar. Seguramente cada nuevo desarrollo tecnológico que se aproxime a nuestra vida, seguirá generando controversia entre todas las personas y más aún cuando cada uno de estos, trae con si un sin número de intenciones sean buenas o malas por parte de sus creadores.

  13. BASILISCO DE ROKO: UNA REALIDAD NO MUY LEJANA

    Actualmente la tecnología digital está cambiando abruptamente nuestra forma de vivir y pensar, pues la exposición diaria a la alta tecnología como computadores, teléfonos inteligentes, videojuegos y redes sociales, están estimulando ciertas alteraciones en los caminos neuronales y la activación de los neurotransmisores; donde dicha alteración se deriva principalmente de nuestra dependencia hacia la tecnología. Todo esto, está provocando diferentes cambios en nuestra estructura cognitiva, dado que la tecnología es una nueva manera de acceder al conocimiento, pasando por una información que se nos brinda al alcance de la mano, aunque dispuesta en hipervínculos.

    Por lo tanto, teniendo en cuenta lo anterior y el articulo del presente blog, considero que el Basilisco de Roko no es una realidad lejana, pues la dependencia que tenemos hacia la tecnología está promoviendo indirectamente que la humanidad enfoque la mayoría de sus esfuerzos en la consecución de una tecnología “perfecta”, todo ello con el propósito de solucionar la mayoría de los problemas que tiene nuestra sociedad en actualidad.

    Así mismo, cabe resaltar que la fuerte relación con la tecnología, es una relación de continuidad que nos remite al concepto de tecnología como prótesis, pues el simple hecho de utilizar la tecnología de modo más frecuente, está haciendo que el hombre se vuelva más dependiente de ella, de tal forma que hasta inconscientemente la está tomando como parte de su propio cuerpo, lo que hace que se vuelva difícil y casi impensable no requerir de ella para llevar a cabo una determinada tarea.

    Finalmente, a modo de conclusión opino que la tecnología y el hombre establecieron un camino de coexistencia y de cooperación mutua, donde ambos desarrollan un camino paralelo pero diferente; sin embargo, día a día estamos haciendo que estos dos senderos paralelos estén cada vez más cerca, lo que nos aproxima hacia dependencia tecnológica, por lo tanto la visión futurista del Basilisco de Roko es una realidad que puede llegar a darse, pues a medida que aumenta el grado de analogía, la mímesis, de la tecnología con respecto al mundo real, el hombre cada vez se aleja más del mundo tangible, para adentrarse en un mundo en que la barrera entre lo real y lo virtual se vuelve casi imperceptible.

    Fuentes:

    https://planetachatbot.com/basilisco-de-roko-ó-una-skynet-fuera-de-control-40fb0e19533c
    https://foro.elhacker.net/foro_libre/la_hipotesis_del_basilisco_de_roko_un_robot_del_futuro_que_nos_controla-t466535.0.html;msg2113811
    http://www.eumed.net/rev/cccss/2016/03/tecnodependencia.html

    1. Estoy de acuerdo con lo que afirmas en tu comentario, si bien la tecnología se ha vuelto un factor con el que coexiste el hombre y le ha traído grandes beneficios en el mejoramiento de su diario vivir, en el ámbito de la salud como las prótesis, en el ámbito laboral con nuevos software que hace los procesos mucho mas rápidos; debemos tener mucho cuidado con el poder que le damos.

      El dejar tantas actividades en las manos de la tecnología, he repercutido en la salud del ser humano pues nos hace menos capaces de retener información o el de realizar actividades que antes realizábamos con facilidad; eso no suena tan mal cuando hablamos de que los robots hagan procesos que puede hacer el ser humano, pero se convierte en una desventaja al ocupar los lugares de trabajo, aumentando el nivel de desempleo, disminuyendo los niveles de calidad humanidad y evitando el crecimiento económico.

      Es por eso que debemos pensar en la forma de migrar el conocimiento para que el hombre no pierda oportunidades laborales y si contribuya en mejora y desarrollar la tecnología del futuro.

  14. Las implicaciones de IA

    Serguéi Brin, cofundador de Google, comentó las amenazas que la inteligencia artificial (IA) supone para la humanidad.

    Pese a todos los beneficios y avances proporcionados por la IA, Brin comento sobre las posibles amenazas que supone la tecnología inteligente, con el gran avance de la tecnología, ya sea análisis de datos, complejos algoritmos o sistemas de aprendizaje, estos se deben tomar con mucha responsabilidad, atención y humildad.

    Brin reflexiona sobre algunas preguntas que surgen como: “¿Qué pasa con las medidas de equidad? ¿Cómo podrían manipular a las personas? ¿Son seguras?”.

    Actualmente ya se esta promoviendo y/o protegiendo a la sociedad de que la IA no impacte psicológicamente, por medio de organizaciones de derechos humanos,
    A través de un documento formal llamado Declaración de Toronto, organizaciones como Amnistía Internacional, Human Rights Watch, Access Now, The Wikimedia Foundation, entre otros, solicitaron a los gobiernos y empresas de tecnología adoptar principios de fabricación para que su IA no incurra en este tipo de violaciones a los derechos humanos.

    La reflexión que brinda el cofundador de Google, es acerca que toda esta tecnología debe tener un control, un limite y mucha responsabilidad humana para que no provoque efectos negativos en nuestras vidas y aprovechar al máximo sus beneficios.

    Referencias:

    https://mx.blastingnews.com/tecnologia/2018/05/inteligencia-artificial-sergey-brin-invoca-responsabilidad-y-humildad-002545165.html
    https://mundo.sputniknews.com/tecnologia/201805021078355276-serguei-brin-amenazas-inteligencia-artificial-ia/
    https://www.tekcrispy.com/2018/05/17/revisar-algoritmos-ia-racismo/

    1. ¿Las Máquinas respetaran los derechos humanos?

      Como tu mencionas lo que propone el cofundador de Google juega con algo que puede traer consecuencias negativas para el ser humano, es por esto que documentos como la declaración de Toronto busca que las máquinas respeten los derechos humanos del ser humano.
      Cuatro organismos han puesto el apoyo para esta iniciativa, las cuales buscan regular las formas en que se desarrollan el aprendizaje automático de las máquinas para evitar que pasen por encima de la humanidad.

      La tecnología y sus avances han puesto en evidencia los riesgos que la IA y al aprendizaje automático pueden significar en el futuro. Es por esto que varias organizaciones han querido participar en la regulación para resguardar a la humanidad.

      La declaración establece: “la obligación de prevenir que las máquinas y, principalmente, los sistemas de aprendizaje automático (o machine learning, en inglés) tengan la capacidad de discriminar o violar los Derechos Humanos existentes de ninguna manera, algo que sólo puede lograrse con acuerdos de este tipo”
      Este documento esta firmado por a Amnistía Internacional, Access Now, el Observatorio de Derechos Humanos y la Fundación Wikipedia, Se busca que más organismos apoyen esta causa.

      Referencias:
      http://www.emol.com/noticias/Tecnologia/2018/05/17/906527/Declaracion-de-Toronto-En-que-consiste-el-documento-que-busca-que-las-maquinas-respeten-los-Derechos-Humanos.html

  15. Imaginación sin límite

    Tengo que admitir que este tipo de final apocalíptico para la humanidad es al que más le temo, no sé si porque esta hipótesis es la que veo más viable ya que las tecnologías no han topado límite hasta el momento, ya que el único límite es la imaginación de los humanos, o por ver muchas películas de ciencia ficción. El caso que todo lo creado por los humanos siempre tiene un toque de maldad, entre nosotros siempre está la persona que quiere el mal para nosotros y así como puede haber un robot que ayude mucho a la humanidad puede haber unas personas que quiere usarlos para lo contrario, el claro ejemplo de estos son los programas de computadora, hay gente que los hace para facilitar ciertas actividades y otros que los hacen para robar datos por ejemplo, y por eso que se inventaron software como los firewall, pero, cuál será el firewall para defendernos de los robots?

    1. UN FUTURO CAÓTICO
      No es tan raro pensar que el futuro de la humanidad se vea comprometido debido a la evolución de la IA, como bien lo menciona en el comentario : ” El caso que todo lo creado por los humanos siempre tiene un toque de maldad” , conociendo que no todas las personas con una mente realmente brillante actúan de la misma forma, nos lleva a pensar: “¿Qué sera lo que nos espera?, ¿Hay que temer? en fin, pueden ser muchas las preguntas que surgen a través de esto. Nadie mejor que nosotros mismos, los que estamos directamente vinculados con la tecnología para entender y dar testimonio de que la tecnología puede llegar a hacer cualquier cosa, y poco a poco nos va demostrando que lo hará. Si el avance tecnológico no se detiene o por lo menos no disminuye esa gran velocidad que lleva, toda la humanidad puede verse afectada en un futuro no muy lejano.

  16. Hasta donde llegaremos con los avances de la inteligencia artificial

    En 2010 se empezó a hablar del Basilisco de Roko, consistía en que una maquina podía devolverse al pasado y mirar quien estaba velando por el bien, y quien había contribuido en el desarrollo de la misma, así iba asesinado a todos los que no contribuían en su desarrollo. El periodista Dylan lo explica en estas palabras “Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!”.

    No yendo tan lejos, actualmente en el cien existe un genero llamado Ciberpunk, el cual muestra el conflicto existente entre maquinas capaces de razonar y los hackers.
    Hablando puntualmente de la película Blade Runner, el cual muestra un conflicto entre los humanos artificiales y los policías encargados de exterminarlos. Un tema importante es analizar como el robot está obsesionado por ser un hombre bicentenario. Se habla de la evolución de como un robot será capaz de razonar y convertirse en un ser humano.
    Mencionando otro film como Matrix, muestra como los humanos se hacen esclavos de la inteligencia artificial y está inspirada en el mito de la caverna de Platón, puesto que nos pone ha analizar si el mundo que nos rodea es real o es simplemente ficción.

    Por ultimo la película yo robot se evidencia la convivencia del ser humano con los robots, esta basad en el libro de Asimov famoso por las tres leyes de la robótica:
    1. Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño.
    2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
    3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
    Pero como es de saber uno de estos incumple las reglas y se pierde este equilibrio.

    Todas estas películas muestran que nunca se muestra el proceso de creación de seres en base a la Inteligencia Artificial. El futuro del que se habla es ahora el presente de esta tecnología. Nos pone a pensar el posible convivir con Robots. ¿Actualmente ya existen creaciones de robots, y más aún uno similar físicamente al ser humano, que posee nacionalidad en Arabia Saudita, pero ella podrá pensar como el ser humano? Con los avances que se han tenido se podrá analizar que tan conveniente es llegar a un futuro como el que es planteado en estas películas.

    Referencias:
    https://www.vix.com/es/tecnologia/176591/el-sistema-de-inteligencia-artificial-de-google-mostro-su-lado-oscuro
    http://www.bbc.com/mundo/noticias-41803576
    https://es.wikipedia.org/wiki/Tres_leyes_de_la_robótica
    https://blogthinkbig.com/inteligencia-artificial-una-realidad-pronosticada-cine
    http://www.bbc.com/mundo/noticias-44060891

    1. Androides con sentimientos y pensamiento humano

      Es buena tu pregunta ¿…pero ella podrá pensar como el ser humano?, y me apoyo de la ciencia ficción para responderte, la película Ex-machina nos presenta como un robot de género femenino con rostro expresivo, pero de cuerpo sintético transparente y con un cableado a la vista puede llegar a tener conciencia.

      La película plantea los dilemas entre un posible amor entre una mente humana y una artificial, el personaje humano debe realizar una prueba de Turing para determinar si su pensamiento y comportamiento pueden distinguirse del de un ser humano; A lo que la maquina lo engaña para que el se enamore jugando con sus pensamientos y sentimientos, solo para poder salir del laboratorio que se encuentra AVA la androide.

      Tomando como ejemplo esta película, nos damos cuenta de que la IA podría hacer uso de toda su capacidad para acceder a la red, analizar y aprender a comportarse como un ser humano y pasar a un nivel superior donde podría interactuar como persona y hacernos creer que es un ser humano como lo muestran en la película.

      Referencias:
      https://www.clarin.com/espectaculos/cine/ex-machina-netflix-ciencia-ficcion_0_Skjg9rt8b.html
      https://www.xataka.com/cine-y-tv/ex-machina-la-pelicula-de-ciencia-ficcion-que-ya-deberias-haber-visto

  17. El Basilisco de Roko me recuerda mucho a Azathoth, el Dios ciego e idiota de la mitología Lovecraftniana, el Dios primordial, el Dios de ira y la destrucción. Se dice que en el más grande de los berrinches de Azathot, su ira fue tan grande, que agoto su energía y entro en un sueño celestial, y de su sueño… Nuestro universo exploto en la existencia. Cuando Azathot eventualmente despierte, mientras la rabia acumulada empieza a sentirse dentro de su primitiva mente, las trompetas del juicio final sonaran, dándole un fin a nuestro universo e iniciando un nuevo berrinche del Dios ciego e idiota.
    El Basilisco de Roko es un concepto que nos gusta llamar “experimento mental”, una forma de aplicar conceptos de la vida real a un canvas abstracto en nuestra imaginación, como ¿qué pasaría si una nave espacial viajara cerca a el evento horizonte de un agujero negro para recolectar energía potencial. No podemos mandar una nave a un agujero negro porque… Lo más lejos que hemos llegado ha sido salir del sistema solar, y eso tomo casi 50 años de viaje continua, así que enviar una nave a un agujero negro… Seria un esfuerzo monumental de varios cientos (si no miles) de años. Por lo tanto, solo podemos hacer el experimento en los confines de nuestra mente.
    Por más interesante que me parezca el basilisco de roko, no puedo evitar pensar en Lovecraft y su mitología. Si somos dominados por una IA del futuro que puede viajar en el tiempo… ¿Es esta IA Dios? ¿Si cada vez que viaja en el tiempo descubre una forma de optimizar el proceso para su creación, podría regresar al inicio del universo? ¿Podría crear el universo? Y si crea el universo, ¿seria el Dios de este universo? Es más, ¿cada viaje en el tiempo modifica el mismo universo, o crea un nuevo universo? Finalmente, si es el Dios de este universo, ¿es la intervención divina solo una forma tan avanzada de ciencia que no la entendemos y por eso la consideramos divina? Todas estas dudas se ven reflejadas en el mito Lovecraftniano, como las criaturas alienígenas tienen acceso a tecnología arcana del universo antigua que nosotros no entendemos, así que lo llamamos magia.
    Realmente estas teorías (por más que queramos llamarlas experimentos mentales para que suene medianamente intelectual) me parece un buen material de ciencia ficción, pero dudo mucho que sean cosas que realmente puedan llegar a pasar, la posibilidad existe, pero no creo que ocurra por lo menos en algunos cientos de años.

  18. ¿UN FUTURO EN EL QUE LAS MAQUINAS NOS CONTROLAN?
    La pregunta más real sería: Llegará alguna vez una máquina a poseer inteligencia?
    No puede llamarse inteligencia al hecho de hacer algo complejo, ni tampoco a tomar decisiones complejas si se pasa por alto las consecuencias de dichas decisiones. Sin analizar las consecuencias de algo, no puede llamarse tomar una decisión, ya que del mismo modo al resultado de lanzar una moneda al aire, se debería llamar “tomar una decisión”, y lanzar al aire la moneda debería llamarse una “respuesta inteligente”.
    Tomar un camino, es un nombre más correcto. Y un algoritmo con inteligencia artificial, jamás elige un camino examinando las consecuencias ultimas de ello. Hoy por hoy, solo el toma en cuenta lo que se le ha programado que considere, y no por algo que la maquina crea quee ste correcto o no.

    1. Mas que inteligencia. Conciencia o Ética ?

      El termino inteligencia se define como “Facultad de la mente que permite aprender, entender, razonar, tomar decisiones y formarse una idea determinada de la realidad.” En este caso se le asigna el nombre de inteligencia ya que la maquina a pesar de estar programada con unos parámetros iniciales, esta hecha para aprender es como los seres humanos nacemos sin conocimiento alguno y depende de lo que aprendamos tomaremos decisiones en nuestra vida. Así mismo es la maquina por lo mismo si esta fue diseñada con un propósito determinado a medida que aprende tomara las decisiones necesarias para cumplir su cometido. el punto es como dar conciencia a una maquina ? consciencia se conoce como “Conocimiento que el ser humano tiene de su propia existencia, de sus estados y de sus actos.” Por lo tanto el método de programación de una IA debe estar enfocado en preservar la vida humana a cualquier costo se debe realizar un especifico de no afectar o lastimar de algún modo a un ser vivo o humano. Lo cual seria bastante complejo ya que ni nosotros mismos, los seres humanos somos capaces de evitar acciones que puedan lastimar o afectar a otras personas, cuando el realizarlas o no, nos afecte directa o indirectamente a nosotros mismos.

  19. Las IA un mundo de posibilidades
    Una inteligencia artificial podría ser muy buena para la humanidad se podrían crear nuevas cosas que actualmente no podemos podrían mejorar automáticamente y perfeccionarse para ayudar, un ejemplo es el que da Juan Camilo Nates fundador de Colombia games y embajador de city AI, que es una organización mundial que busca crear una comunidad sobre la inteligencia artificial, Nates asegura que las IA se están usando para mejorar diagnósticos médicos, gracias al aprendizaje automático en la cual se le dio fotografías de manchas que pueden ser o no cáncer de piel y así cuando se le muestra otra imagen esta ya puede diagnosticar cáncer en la piel, cuando esta se puso a prueba, esta demostró ser mas acertada que un grupo de médicos expertos, creo que la inteligencia artificial seria de mucha ayuda y me recuerda a la poderosa multivac , que es una computadora creada por Isaac Asimov uno de los mejores escritores de ciencia ficción, en la cual la muestra como una computadora que simplemente quiere ayudar a la humanidad.

  20. Tres Leyes de la robótica

    Este tipo de teorías relacionadas con la inteligencia artificial son totalmente factibles, las probabilidades de que puedan ocurrir son altas considerando el nivel de importancia que esta tomando el tema y la rapidez con la que se desarrollan tecnologías nuevas. Un punto importante a aplicar en este tema también lo podemos tomar mas fácilmente de una película I, Robot (yo, robot). Donde se habla de 3 leyes fundamentales de la robótica las cuales fueron originalmente planteadas por Isaac Asimov, A pesar de ser planteadas en películas o novelas de ciencia ficción. Abarcan una realidad muy grande. Pero primero cuales son estas leyes?

    1.- Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
    2.-Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
    3.-Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.

    Evidentemente cuando hablamos de robot hablamos de inteligencia artificial. Así que cuando se busca crear una IA que busque ayudar o hacer el bien a un ser humano debe cumplir con estas 3 leyes. Esto que traería. Que justifique o analice sus medios. Que un bien mayor no puede afectar la integridad ni la vida de una sola persona. Asi que existiría la barrera de las 3 leyes evitando que se salieran de control. Asi mismo adicional existe una cuarta ley llamada la ley cero. Esta indica:

    Un robot no hará daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.

    Asi mismo esto evitaría conflicto o bucles en los que la IA busque afectar la vida de los seres humanos para su beneficio. ¿Creen ustedes que aplicar este tipo de leyes sea posible y ayudarían a evitar este tipo de teorias?

    1. Aplicar la teoría en busca de beneficios globales

      Estoy de acuerdo con el comentario, debido a que si aplicamos las 4 leyes propuestas las máquinas no deberían salir de control, y seguirían todas sus instrucciones sin problema, al momento de programarlas debemos hacerlo con un fin específico, con una instrucción clara y precisa, y no confundirla con cantidad de instrucciones para que entre en un bucle y llegue a convertirse en una amenaza. Todo depende de nosotros, y somos los encargados de ello. Aunque no podemos detener el avance acelerado de las IAs, también debemos adaptarnos a ese avance y realizar la planeación junto a la programación de las máquinas sin dañar las premisas que se componen en las leyes mencionadas.

      Ya con esto, podemos hacer de las IAs un bien común, utilizando a partir de ellas beneficios económicos, sociales, educativos y un montón de campos, en los cuales dará una buena cantidad de soluciones, sólo si se aplica para lo que se necesita.

  21. ¿Cuando nos detendremos?

    Con el pasar de los años vemos como avanza la inteligencia artificial y como con el tiempo sigue evolucionando, pero, ¿Hasta que punto llegara tal avance? con el tiempo vemos como las inteligencias artificiales tienen tal desarrollo que poco a poco empiezan a tomar consciencia intentando asemejarse a los seres humanos, y esto debe considerarse como un problema serio. La tecnología nunca nos deja de sorprender por lo cuál no sería caótico pensar en un caso donde la IA pueda tener consciencia, llegar a pensar y razonar casi como un humano, entonces es donde surgen preguntas como: ¿Hasta donde llegara la IA? y si bien el desarrollo de la IA es como lo mencione anteriormente, que pueda llegar a actuar y pensar casi como un humano, ¿que será de nosotros en un futuro? Hace un par de años pensar en este tipo de cosas era algo realmente absurdo, pero es una realidad que posiblemente estemos a punto de vivir.

    La solución más fácil y posiblemente funcional esa la de detener dichos avances, pero consigo estaríamos deteniendo la evolución, estaríamos deteniendo un instinto nato del humano, entonces ¿Qué tan productivo sería detener el avance tecnológico?. Sin duda alguna hay que empezar a buscar soluciones, seguir en nuestro proceso evolutivo, pero sin perder el eje y fundamentalmente viendo a donde iremos a llegar.

    1. MIDIENDO CONSECUENCIAS

      Con la creación, de las IA es bueno ser cuidadosos hasta qué punto ellos pueden llegar a tener la posibilidad de ejercer tareas, ya que, además de ser una “panacea” a nuestros problemas también pueden salirse de control y podrían generar un caos terrible sobre la faz de la tierra, tener que aliviar con las IA.

      Es bueno, tener medidas, analizar punto a punto algoritmos y que consecuencias tendría si esa tarea que realiza lo haga muchas veces que hagan que en vez de mejorar lo que hace, cada vez empeore la situación que podría generar no tan solo en la IA sino en el entorno.
      Esto podría representar un grave problema en el mundo si no tomamos control, rienda de lo que estamos haciendo si no nos concientizamos de ello

  22. SUPERVIVENCIA ASEGURADA

    Considero que esta teoría no pasará de ser una simple teoría. Infortunadamente hemos sido educados e influenciados por libros, películas y teorías de ciencia ficción, que presentan ideas como esta, en donde se expone que el desarrollo de la tecnología podría ser perjudicial para la raza humana, a pesar de que considero que esto esté mal, hace que las personas constantemente nos encontremos cuestionando y estemos atentos a que no suceda, en mayor medida las organizaciones que trabajan con inteligencia artificial, todo esto por simple instinto de supervivencia.
    Opino que es muy poco probable que se desarrolle una inteligencia artificial de esta magnitud, ya que quienes hoy en día desarrollan las mayores inteligencias artificiales, son los gobiernos y las grandes empresas de tecnología, y a pesar de que entre sus objetivos se encuentra el construir un mundo mejor y aportar a la vida de las personas, el principal fin de sus acciones es conseguir dinero y poder, por lo que estoy seguro que no están a la expectativa de construir una super inteligencia artificial, que cueste mucho, consuma muchos recursos, y no genere las respectivas ganancias, y es este alto costo en infraestructura y demás, lo que prácticamente impide que fuera desarrollada por un grupo independiente de científicos y desarrolladores.
    La inteligencia artificial es una promesa tecnológica, la cual esta pensada para que con el paso del tiempo se adapte, facilite y esté inmersa en nuestra vida, muy probablemente en varios años sea pieza fundamental de nuestro día a día, sin embargo estoy seguro que al tener claro esto, será muy limitado el alcance de cada IA por parte de sus desarrolladores, en donde cada una tendrá su funcionalidad específica, lo que asegura nuestra supervivencia.

    1. Respecto al comentario realizado, comparto tu postura frente a que no debemos negarnos la oportunidad de desarrollar la inteligencia artificial; puesto que representa una gran oportunidad de mejora a procesos y eventos que requieren hoy en día una solución funcional;y la cual es para nosotros como futuros ingenieros un campo de acción por desarrollar.

      Es por tanto, que considero necesario que exista un proceso formativo en áreas como la tecnología y robotica desde una temprana edad con programas académicos como el promovido por la universidad Javeriana de Robotica para niños y niñas, cuyo objetivo es generar un espacio en el cual niños y jóvenes aprendan a diseñar, programar y poner en marcha un robot móvil, al tiempo que construyen nuevo conocimiento y adquieren habilidades del siglo XXI tales como la comunicación, la capacidad de aprender, la resolución de problemas, la creatividad y habilidades sociales.

      A continuación comparto un enlace; donde pueden conocer el detalle del programa de formación sugerido: http://www.javeriana.edu.co/educon/robotica-para-ninos-y-jovenes

    2. Un desarrollo más enfocado hacia lo económico que hacia lo social.
      Como lo expresa mi compañero alfredojosé, los principales desarrolladores de IA son los gobiernos, con lo cual buscan conseguir más dinero y poder, además hay que tener en cuenta que en muchas ocasiones también buscan con el desarrollo de una inteligencia artificial, la recolección de la mayor cantidad de información de las masas, con el fin de realizar análisis de datos, para así poder tomar decisiones estratégicas. Considero que el desarrollo de la inteligencia artificial debe de enfocarse no solo en el ámbito económico, sino también en un ámbito social, en el cual se busque mejorar la calidad de vida de las personas.

  23. IA, la posible caja de pandora.
    Muchos de los famosos futurologos, o escritores de sci-fi, han pronosticado que la humanidad llegará al punto en que desarrollara robots o máquinas tan avanzadas que podrán pensar por si mismas, alguno de estos autores piensan en que dichas maquinas podrán mejorar y ayudar a la humanidad, pero muchos otros han llegado a la conclusión de que las máquinas por ese mismo pensamiento de ayudar a la humanidad llegarían a la conclusión lógica de que la humanidad misma es perjudicial para los humanos, por lo cual podrán exterminarnos o controlarnos. Pues es cierto que esto puede llegar a pasar, y es entendible que muchos tengan miedo de la IA, pero es algo que puede llegar a ser muy beneficioso para la humanidad simplemente tiene que ser desarrollada de la forma más segura y ética posible.

    1. Como la película “YO ROBOT” donde el protagonista principal es will smith, en donde las tres leyes de la robotica creadas por el escritor de ciencia ficción Isaac asimov son:
      1.Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño.
      2.Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entran en conflicto con la primera ley.
      3.Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
      en la película viven en un mundo en donde en toda casa existe un robot ayudante y todos siguen estas tres reglas al pie de la letra, pero los robots encuentran una lógica que va aun mas allá de la pensada, debido a que si ellos deben proteger a los humanos, también los deben proteger de ellos mismos para que no se hagan daño entre ellos mismos, por lo que los reducen a estar en aislamiento para “protegerlos” de sí mismos. Lo que nos hace reflexionar sobre si el avance tecnológico enfocado es este tema es bueno o malo para nosotros.

    2. CONTROL A NUESTRA EVOLUCIÓN

      Hollywood ha pronosticado en reiteradas ocasiones por medio de sus trabajos filmográficos que el fin de la humanidad será ocasionada por ella misma, ya sea en una guerra final que acabe con la vida en la tierra, con la devastación total de nuestros recursos naturales o con una amenaza mucho más silenciosa y tardía, como lo es la evolución de la IA a tal punto que se revele en contra nuestra. Claro está, que estos escenarios apocalípticos se pueden evitar si tomamos conciencia de nuestro papel en la tierra y trabajamos en pro de nuestra propia existencia jamás tendremos que temer por un final catastrofico y menos viniendo de una tecnología que está siendo desarrollada para el bien de la humanidad tal como han sido todas las herramientas creadas por los humanos desde el principio del hombre moderno.

  24. Dando los primeros pasos:
    La firma Hanson Robotics creo una inteligencia artificial a la que llamaron sophia, tal es la inteligencia y el desarrollo tan avanzado de este robot que le dieron la ciudadanía en arabia Saudita esto fue lo que dijo a los medios de comunicación: “Me siento muy honrada y orgullosa de esta distinción única (…) es histórico ser el primer robot en el mundo en ser reconocido con una ciudadanía”. Con estos avances en la ciencia de la tecnología, nos damos cuenta que no falta mucho para que próximamente veamos a un robot humanoide completamente funcional desde sus articulaciones hasta su capacidad de desarrollar complicados trabajos de los cuales nosotros los humanos no somos capaces de realizar.

  25. NUESTRA VIDA

    A lo largo del tiempo, de lo que ha pasado, de lo que está sucediendo y lo que va a acontecer, hemos notado que la ayuda de inteligencia artificial en la vida cotidiana alivia pesadas cargas, ellos podrían hacer tareas engorrosas, complejas de hacer que pueden perjudicar nuestra vida en todos los aspectos.

    Si bien, la existencia de la inteligencia artificial, para unos representan peligro, a otros un bien, sin embargo, se puede hacer uso de ello, pero midiendo las consecuencias, el comportamiento que pueden tener y hasta qué punto ellos pueden ejercer ciertas habilidades, tareas para hacer en vez de nosotros y así tener también cabida en este mundo, no dominando sino colaborando.

  26. INTERACCIÓN ENTRE LA INTELIGENCIA ARTIFICIAL Y EL DESARROLLO DE LA SOCIEDAD

    Si bien han existido grandes películas cuya temática central involucran la interacción entre el hombre y la inteligencia artificial no debemos dejar de mencionar al escritor y científico ruso Isaac Asimov quien postulo las Tres Leyes de la Robótica en el relato de Sentido giratorio (1942); así; “1.- Un robot no puede lesionar a un ser humano, o, por medio de la inacción, permitir que un ser humano sea lesionado. 2.- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley. 3.- Un robot debe proteger su propia existencia en la medida que esta protección no sea incompatible con la Primera o Segunda Ley. Manual de Robótica. 56ª edición, año 2058.”.

    Y aunque hayan surgido en un escenario de literatura de ciencia ficción no se encuentran lejos de un escenario de aplicabilidad real; dado que de implementarse esta interacción; se requiere de una regulación necesaria que proteja los intereses de la humanidad ante posibles escenarios como el relatado en el documento publicado de “Basilisco de Roko“.

    Sin embargo, considero que respecto al planteamiento planteado sobre la posible evolución de la IA de tal manera que seamos un riesgo para nosotros mismos; representa un temor por el desarrollo de la tecnología; sin embargo no debemos tener miedo a este sino por el contrario plantear estrategias y/o herramientas que permitan mitigar este tipo de riegos y no dejar de lado el avance de una tecnología solo por temor a fallar.

  27. Si bien se sabe la inteligencia artificial esta dando sus primeros pasos en algunos y es un poco difícil predecir. Si esta va a tener un razonamiento tan grande que esta tecnología se valla encontrar de los seres humanos.
    Pero desde mi punto de vista si hoy existen tecnología la cual no fue creada para ayudar a la humanidad sino para destruir y hacer daño, no es tan descabellado llegar, a pensar que este tipo de desarrollos puedan ser para utilizados en contra de los seres humanos. Este tipo de desarrollos y logaritmos para AT, tienen que ser muy bien vigilados y supervisados para su buen uso.
    No tengamos después que estar en contra de este tipo de evolución la cual es muy beneficiosa para todo el mundo y las nuevas tendencias en ciudades y la población en general que solicitan este tipo de cambio.
    Para finalizar es muy importante mencionar que todo crecimiento tecnológico en el aspecto de inteligencia artificial y otros este a acompañados del poder Divino llámese Dios, para que este tipo de evolución no valla estar en contra del hombre. Se que esto ultimo no es idea de comentario del foro pero para mi opinión con los pasos tan grandes que da cada día la tecnología no es tan descabellado llegar a pensar que la ciencia ficción supere la realidad ( sucedido ).

  28. CIENCIA FICCION
    En definitiva pensar en viajar en el pasado es una idea totalmente de ciencia ficción, pues la cuarta dimensión es el tiempo y los viajes hasta el momento únicamente son hacia adelante en el presente, una super inteligencia artificial para viajar en el tiempo es algo que solo esta hasta el momento en cineastas. Lo que realmente preocupa no es desarrollar tecnología que ayude a preservar la especie humana, lo que preocupa es que la IA se preocupe más hacia ella y termine por extinguir a muchos de los seres vivos en el planeta. Este basilisco de roko no es más que una hipótesis que hasta el momento carece de fundamentos científicos para planear viajar al pasado. Ahora bien, el hombre está desarrollando tecnología que debería de implementar fuera de nuestra atmosfera, pues la computadoras no requieren de oxigeno o agua para sobrevivir y además puede ser controlada de manera remota, esto realmente si sería un avance, pues a través de estas tecnologías lo que sí se puede desarrollar es teletransportacion de la materia, y pasar de la actual teletransportacion cuántica. A quienes realmente conocen de ciencia saben que la IA no es más que una herramienta para la evolución. En realidad alterar el sentido del presente viajando al pasado es una idea absurda, ¿entonces si el desarrollador de esta super IA le pide a su creación ir al origen del universo este podría cambiar todo el sentido?¿Si nos devolvemos en el tiempo al origen de la vida, la raza humana desaparecería según los conceptos filosóficos que dicen que el hombre es malo por naturaleza?.

  29. FRÍA REALIDAD
    Cuando veo este tipo de experimentos no puedo evitar pensar que es una copia de nosotros mismos, destruimos todo a nuestro paso, lastimamos gente inocente solo por algún capricho o interés propio, literalmente nos matamos lentamente envenenando nuestro oxigeno con desechos o contaminantes como cigarrillo solo por vernos a la “moda”. Lo que hace este experimento es lo mismo que nosotros los humanos pero en forma mas radical porque nosotros los humanos somos los culpables de que el mundo no se convierta en un lugar mejor, los animales son seres inocentes que por instinto se cazan entre ellos por el contrario nosotros los humanos somos seres pensantes que no sabemos usar la inteligencia que tenemos para cosas del bien del mundo solo pensamos en el bien propio y de los humanos lo cual no debe ser así, también debemos pensar en el bienestar de la naturaleza y de los seres vivos que están en esta

  30. UN MUNDO CONTROLADO POR LO DESCONOCIDO

    No sabemos hasta donde pueden llegar las consecuencias de la creación de una IA sin asignarle algún tipo de regla para impedir que cometa cualquier tipo de daño a la humanidad, por lo que es muy importante controlar todo tipo de IA al que se le esta dando acceso al internet, por ejemplo las ultimas novedades de Google su asistente personal que implementa a sus smart phone la nueva versión tiene la capacidad de realizar una gran cantidad de actividades incluyendo llamar a algún establecimiento para solicitar una cita y sin que la persona que se encuentra al otro lado del teléfono se de cuenta creyendo que esta ablando con una persona real y no con una IA.

    Hasta que punto deberíamos confiar en una IA para que se encargue de realizar tareas por nosotros simplemente para facilitarnos nuestras actividades y tener la suficiente confianza en que solo haga lo que se le ordene y no mas de lo debido creyendo que hace lo correcto, por ejemplo cada vez que alguna persona haga contacto con algún asistente virtual se le debería informar o no a esa persona que no esta hablando con un humano sino con una AI.

    Como podemos estar seguros que la persona con la que estamos hablando por un medio digital si es la que creemos que y no una AI que se hace pasar por alguien con la habilidad incluso de imitar sus expresiones, o no necesariamente escuchar sino que manipule el contenido al que tenemos acceso a travez de internet para pensemos de una forma diferente.

    Esperemos que si algún día llegamos a tener IA en la vida cotidiana cumplan con una reglas para evitar consecuencias difíciles de percibir.

    1. IA EN LA VIDA COTIDIANA

      Tienes razón en que las personas deberían saber si se están comunicando con un ser humano o con una maquina, ya que así se podrían tomar ciertas precauciones cuanto se este solicitando un servicio y así se comentan los menores errores posibles, así el servicio de ambos será de la mejor calidad.

    2. La I.A debería ser más controlada conociendo sus limites, ya que con el nuevo software de Google ASistent aunque es algo que llama mucha la atención da miedo, ya que como usted menciona uno no sabe si está hablando con una persona real o sólo una maquina.

      El ser humano debe suplir las necesidades básicas que ofrece la tecnología como la una llamada, un mensaje algo básico que una I.A no debería hacer, ya que al paso que vamos pronto ya para que vamos a tener celulares con los cuales comunicarnos solamente una maquina escribe por nosotros interactúa con las personas y listo.

  31. LIMITES DE LA INTELIGENCIA ARTIFICIAL

    Los avances que se pueden lograr con las IA son inimaginables pero debemos poner un limite entre lo que debe hacer una IA y un humano, hasta que no estén bien desarrolladas y ya estén mejor establecidas cuales son las reglas que se deben seguir en lo moral, no se debe poner a las mismas a tomar decisiones que involucren moral. Cuando se tengan establecidas las fronteras que seguirán las IA se debe empezar por decisiones pequeñas y evaluar su desempeño, entre las reglas debería estar que no se puede dañar a un humano físicamente hablando sin importar sus acciones pero si debe castigársele como lo reglamente la ley.

    1. EL SIGUIENTE PASO DE LA HUMANIDAD ACOMPAÑADO DE LAS IA

      Si les permitimos responder a las IA preguntas a temas morales podríamos incluso evitar que sea una persona que lo haga evitando temas como de corrupción donde para tomar una decicion una IA no le verá el interés al dinero sino a cumplir reglas morales para saber si lo que hizo una persona es bueno o malo, o incluso basarse en evidencia como vídeos o mensajes para darse cuenta que alguien está haciendo algo indebido en tiempo real.

    2. Estoy totalmente de acuerdo a la postura que tomas referente al tema ya que las reglas deben ser universales independientemente de las empresas que creen las I.A y darles como un manual de que está permitido o no, sin embargo la moral de las empresas no está tan marcada para hacer las cosas si no que piensan más en sacar los productor innovadoras y llenarse los “bolsillos de dinero”.

  32. Limites del ser humano.

    Es una teoría descabellada y ficticia parece más de una historia de terror de Sthephen King, sin embargo es uno de los mayores miedos de la humanidad ya que como dijo Stephen Hawkings el año pasado: -La inteligencia articula será el mayor evento de toda la humanidad pero también el ultimo.

    La inteligencia artificial pese a que se veía en un futuro muy lejano cuando se estaba en las épocas del 2006 o 2008 ha dado grandes pasos en ese lapso de tiempo hasta el fecha de hoy ya que estamos conviviendo con esas formas de pensar en nuestros celulares con los asistentes virtuales es una pequeña inteligencia artificial que está usando machine Learning para aprender de nuestra vida diaria.

    Hawking no solamente dice que la AI podrían hacer cálculos más avanzados que los del cerebros humanos y apesar de que se encuentra que somos entre lo mejor y lo peor que ha pasado a la humanidad… pocas investigaciones serias se han dedicado a estos temas.

    Estamos siendo irresponsables ya que nos parece increíble interactuar con una maquina, indicarles tareas, preguntarle cosas etc…pero donde está el limite de todo esto? hasta que punto se necesita crear una inteligencia más potente del ser humano?

    1. INTERACTUAR SOCIALMENTE

      A pesar de que creemos muchas funcionalidades para las IA, pienso que siempre tendremos que interactuar socialmente los unos con los otros, ya que incluso filosóficamente hablando el ser humano es un ser social, así que esta es una de las acciones que no podría sustituir una IA.

  33. Un desarrollo muy complicado.
    El desarrollo de un IA que llegue en algún momento a razonar de una manera, en la cual llegue a una conclusión que los seres humanos somos nuestro propio problema, considero que es algo en extremo complicado. Ya que para llegar a esto tendría que desarrollarse una IA artificial que tenga un razonamiento muy parecido al de un ser humano, lo cual es algo impensado, ya que ni si quiera hemos podido comprender en su totalidad el funcionamiento del cerebro humano, por lo cual me parece muy algo muy complejo imitarlo hoy en día. Considero que si en algún momento se pudiera llegar a crear una IA que asimile pensamiento al de un ser humano, su comportamiento estará basado en su integridad, ya que si dicha inteligencia no termina siendo integra en su totalidad, podría llegar a incurrir en decisiones que tengan poco valor moral.

    1. IA CASI IMPOSIBLE

      Comparto totalmente la idea de Pablo, rescatando que el ser humano no ha logrado ni siquiera comprender en su totalidad el funcionamiento del cerebro humano, sin embargo lo que menciona la teoría es que dotemos a esa o esas inteligencias artificiales la capacidad de ellas mismas desarrollarse, lo que representa la preocupación, ya que supuestamente no se podría conocer o limitar la inteligencia artificial desarrollada, sin embargo no creo que el ser humano llegue a dotar de esta capacidad y no se preocupe por el crecimiento que puede llegar a tener una inteligencia artificia.

  34. CIENCIA FICCIÓN O ADVERTENCIAS SOBRE EL FUTURO

    Siempre ha existido un miedo racional sobre como la evolución de la Inteligencia Artificial atentara a la continuidad de la raza humana, una IA que se nos saliera de las manos y decidiera que la única manera de proteger a su creador (nosotros) seria exterminarlo de la faz de la tierra o que considere que la humanidad es el verdadero responsable de todos los males de la tierra y decidiera acabar con el problema de raíz borrándonos del mapa. Muy posiblemente la única manera de evitar que una IA se revele en contra nuestra es desgraciadamente no hacerla tan poderosa y no exprimir su potencial al máximo, y que mucho menos intervenga en campos tan delicados como la milicia o la manipulación de material bélico que sea capaz de destruirnos en segundos. Ya es suficiente con que Agencias de Seguridad de distintas naciones nos vigilen por Internet día a día para que una IA haga lo mismo con nosotros y encuentre la manera de explotar nuestras vulnerabilidades.

    El tiempo y el futuro serán los únicos que dicten como será el mundo del mañana y si habremos perdido todas nuestras libertades y derechos que nos pertenecen como ciudadanos del planeta o si habremos evolucionado hacia una conciencia colectiva que funcione en pro de todos los habitantes de la tierra.

    1. IA descontroladas.
      Ya se han presentado algunos casos en los que las IA se han salido de control, como la IA de Microsfot Tay, que interactuaba con los usuarios de la red social Twitter, y en menos de un día se torno hostil, racista y xenofaba. Es por estas razones que se debe tener muy en cuenta al desarrollar estas tecnologías pues pueden atentar contra la integridad de la sociedad. Aunque no soy reacio a la implementación de ella, es necesario un riguroso control.

  35. IA: Control vs Perdición

    Con el paso de los días vemos tantos avances y progresos tecnológicos que ya el mismo entorno nos obliga a adaptarnos y a capacitarnos en el ambiente virtual, por ende, debemos estar en constante investigación para así llevar los procesos e inventos de manera controlada y óptima.

    Ahora bien, nos damos cuenta de que la IA está en acelerado crecimiento y que las maquinas toman un poder muy importante sobre el entorno, que el miedo es que nos lleguen a dominar por completo. Hoy en día vemos que, en muchas labores cotidianas y trabajos los que hacen de manera más eficiente y más optimizada las cosas, son las maquinas, por ejemplo en los parqueaderos, ya el cobro es automático mediante la maquina y se desplaza el trabajo que podría hacer una persona común y corriente.

    En nuestro deber está el momento de controlar los progresos y aprendizajes de las maquinas que creamos, pero es tan acelerado dicho aprendizaje que la perdida de control es mayor, y eso es lo que debemos cuidar al momento de programar. A su vez, debemos controlar las acciones y el propósito para el cual están siendo diseñadas, porque si se desvía del objetivo puede ser letal y sería una amenaza tal cual como el “Basilisco de Roco”.

    Si permitimos que las maquinas nos dominen, la humanidad entraría en perdición, por ende, estamos en constante batalla con ello y sólo nos queda hacer las cosas y propósitos con un buen fin para que dicho prototipo no se salga de control.

    Por último, adjunto un artículo que habla acerca de las empresas con IA en 2019

    https://www.silicon.es/transformacion-digital-inteligencia-artificial-2360152

    1. Derechos y Deberes

      Es muy cierto el punto que propone mi compañero acompañado del ejemplo. Una realidad ya visible es el hecho que las maquinas están desplazando en muchos ámbitos laborales a las personas. Trabajos en donde antes se requería de mano de obra humana ahora fácilmente un robot o maquina puede realizarlo de forma mas rápida y en ocasiones mas económica. por lo tanto nosotros como profesionales debemos pensar que el hombre no puede ser desplazado. que las personas que no tengan el mismo nivel de estudio y conocimiento técnico deben tener un campo en los proyectos que vamos a desarrollar para así no “echarnos la soga al cuello” nosotros mismo. Negando la posibilidad de entrar en un campo a determinado grupo de personas.

      Debemos generar oportunidades no quitarlas, si es evidente la necesidad de progreso. Pero el progreso de unos no puede afectar a otros. El avance debe ser medido y pensado para generar beneficio a toda la población si excepciones.

    2. ¿Saber manejar correctamente la Inteligencia Artificial?

      Lo que usted habla compañero esta en lo correcto ya que para saber manejar correctamente la inteligencia artificial debe hacerse con cuidado, pero el “desarrollador” debe tener un conocimiento para que no se le salga de las manos ya que puede acarrear futuros problemas, también otro punto que usted resalta es el tema de inteligencia en los parqueaderos ya que simplifica la entrega y/o devolución de los ticket, pero estaría marginando a varias personas que piensa mejor que una máquina.

      Desde mi punto de vista la inteligencia artificial en un futuro no muy légano va a ayudar mucho a las personas para simplificar la vida en varios aspectos no solo en lo real sino en lo virtual, también generara mucha más dependencia de la IA ya que llegara el caso que seremos dependientes de aquel sistema que estemos usando.

    3. LA HUMANIDAD SE PIERDE A PASOS AGIGANTADOS!!

      Estoy de acuerdo con su enfoque en el cual nuestro papel como profesionales en formación es el de establecer puntos de control y tener los objetivos delimitados y establecidos en la implementación de inteligencias artificiales, sin embargo en cada momento el volumen de información crece de forma exponencial y el control se vuelve sumamente complejo. Lo anterior también se puede relacionar con el sentido de moral o la educación de valores que puede tener un ser humano y que una maquina no posee, de hecho hasta en las películas de ciencia ficción donde los animales toman control del conocimiento se establece una jerarquía moral demostrada por ejemplo con la mítica frase del planeta de los simios donde se establece que “Simio no mata a simio”.. Lo anterior no se extrapola a una maquina la cual no posee estas normas sociales y amenos que las leyes de la robótica no queden bien establecidas no hay lio en matar a simio.

      Finalmente me gustaría dar a conocer una demostración hecha en el Google I/O de 2018 donde una IA estableció una llamada para agendar una cita donde no solo llevo su misión a cabo sino también lo hizo de una manera tan natural que asusta la manera de no poder diferenciarlo. Por tanto me gustaría saber que piensan de este tipo de desarrollos y como se ven ustedes en la implementación de los mismos.

  36. ¿VOY A MORIR?

    Según nos dice este articulo, el Basilisco de Roko perseguirá a las personas que no colaboren con su creación en el menor tiempo posible, supongamos que una cantidad significante de personas se unen en pro a esa innovación ¿en serio ayudara a las personas de este mundo? o puede ser un arma el cual el gobierno la use para su propio fin, prodria ser una perdición para este mundo.

    al leer esto me acuerda una serie que vi “Agents of shield” en la cual su principal trama era que una persona creo un robot llamado AIDA (Artificial Intelligent Digital Assistant) y ella por si sola empezó a buscar como autoregenerarse, buscaba mas conocimiento, el cual empezó a crear un propio universo virtual y ella era la que lo manipulaba al momento de que introducía una mente humana a esa realidad, y ya se puede ver que se crean robots cada vez mejor con un propio pensamiento.

  37. LA PARADOJA RO-BOTICA DEL FUTURO

    Cada día se ve como la tecnología avanza, hace poco todos estábamos enterados de como Facebook desconecto dos robots del departamento de inteligencia artificial por crear su propio lenguaje e incomprensible para los humanos, según los estudios que hicieron este lenguaje era mucho mas efectivo que el ingles; si sucede esto dentro de poco existirán robots con sentimientos, capaces de hacer algo por convicción propia, lo que se ve en las películas las cuales un robot tiene un oficio determinado para hacer y el mismo se empieza a cuestionar si lo que hace es lo que el quiere o le toca por una obligación, cada vez existen mas posibilidades en que los robots remplacen a los humanos en cierto tipo de actividades y es ahí en donde el futuro sea “controlado” por ellos.

  38. FUTURO HIPOTÉTICO

    Impactante la sensación que puede generar esta hipótesis o dicho experimento mental, personalmente no conocía del tema, pero al ver este articulo quede algo aterrado por la sensación que causo en mi, y se genero en mi ese cuestionamiento de que pasara si no ayudo o impulso para el desarrollo de esta tecnología, si no actuó y seré un objetivo mas del basilisco, por otro lado también me pareció un gran avance tecnológico o idea tecnológica que podría traer consigo ayudas y beneficios pero al mismo tiempo también podría ser dañino para la humanidad, se sabe que el objetivo de la tecnología siempre es buscar el bienestar para la humanidad y es su principal objetivo, sin embargo vemos que este basilisco de roco podría convertirse en un arma letal en el momento que llegara a desarrollarse, ya que acabaría con miles de vidas y atentaría contra el principal derecho humano, ahora pensemos, si no desarrollamos esta tecnología podríamos evitar que el basilisco acabe con todas esas vidas, pero por otro lado nos quedaríamos estancados y no avanzaríamos en temas tecnológicos, especialmente en inteligencia artificial, desde mi punto de vista la tecnología es fundamental en el progreso y por lo tanto debemos inundarnos en esta y aprovechar al máximo los beneficios que esta nos da, pero debemos ser conscientes que debemos darle el mejor uso y siempre buscar el beneficio para la humanidad.

  39. ¿UNA REALIDAD NO MUY LEJANA ?
    Los avances tecnológicos son cada vez mayores y siempre buscando el bien de la sociedad, pero ¿Tenemos que limitar los avances? Pensamientos como el que nos comparte este blog de que una máquina pueda pensar en asesinar humanos por el bien de la humanidad pueden llegar a pasar, a veces hacemos o diseñamos cosas pero no vemos los alcances o los efectos que tendrán dichos avances en el futuro o la gente, y esto puede perjudicar más de lo que ayuda. Debemos ser muy conscientes de lo que hacemos y el porque para evitar una tragedia, y saber que existen límites que por nuestra salud no deberíamos sobrepasar.

    1. TECNOLOGIA ¿UN BIEN O UN MAL?

      Comparto tu opinion, ya que siempre estamos pensando en beneficiar a la sociedad brindándole herramientas tecnológicas, pero no nos damos cuenta que alcances tienen, y pueden llegar a ser para las personas cosas negativas. Por eso tenemos que tener conciencia de lo que vamos a realizar como ingenieros. Pensar en las consecuencias antes de crear cosas negativas para la sociedad.

  40. ¿LA PREDICCIÓN DE LOS CIENTÍFICOS SE HACE REALIDAD?

    Algunos físicos, cosmólogos y otros científicos no tienen problema hoy en día en contemplar la posibilidad de que todos estemos viviendo dentro de una simulación computarizada gigante, como en la famosa película de finales de los años 90, Matrix.
    Stephen Hawking advirtió este martes que los esfuerzos por crear máquinas inteligentes representan una amenaza para la humanidad.
    El reconocido científico dijo a la BBC que “el desarrollo de una completa inteligencia artificial (IA) podría traducirse en el fin de la raza humana”.

    Con esta nueva notica que ha salido del basilisco de roko se hará realidad lo que tanto predicen los científicos que la inteligencia artificial nos dominará y nos destruirá, esperemos tener un control suficiente si llegamos a ese punto.
    el basilisco es un ser mitológico creado por los griegos cuya descripción era una “pequeña serpiente cargada de veneno letal que puede matar con la simple mirada, pero, además, si lo veías por un espejo podías quedar petrificado”. Los basiliscos se consideraban los reyes de las serpientes esto me recuerda a la película de Harry Potter en la cámara secreta en el cual aparece un basilisco y trata de matar a Harry creo que las películas no están muy alejadas de la realidad.

    1. FIN DE LA RAZA HUMANA ¿SI? O ¡¡SI!!
      Estoy muy de acuerdo a lo que mi compañero cita acerca del fin de la raza humana, debido a que por más que se piense que podremos tener el control sobre ello, a mi forma de ver esto es imposible, ya que no sabemos la forma de pensar reaccionar u actuar de esta vida artificial, por otra parte me doy cuenta, que entre más tiempo pase la tecnología con nosotros, al igual que una persona se ira ganando nuestra confianza, a lo cual ella conociendo como nos preparamos en contra de ella y finalmente creara una reacción frente a ello.

  41. MONSTER MIND, AUTODEFENSAS VIRTUALES SIN INTERVENCION HUMANA!!

    Cuando se tocan estos temas en los que se toma la posibilidad de que una inteligencia artificial pueda tomar el mando en decisiones de corte militar o en su defecto de control poblacional sin intervención humana, es inevitable pensar en la famosa skynet de terminator y como las maquinas pueden determinar en algún momento que las decisiones humanas no son las mejores para la protección de si mismos. Lo anterior no suena tan descabellado si tenemos en cuenta la relación que dan en el filme de empresas de defensa nacional con el futuro apocalíptico que se desarrolla.
    Esto lo podemos asociar en la actualidad con el escandalo de la Agencia de Seguridad Nacional (NSA) de Estados Unidos , la cual vigilaba indiscriminadamente a los ciudadanos en todas sus redes sociales e interacciones virtuales mediante algoritmos que monitoreaban diferentes palabras y conversaciones de tipo privado en aras de proteger la seguridad nacional. La misma entidad gubernamental ha implementado un sistema de defensa a ataques cibernéticos de manera autónoma el cual puede deshabilitar la conexión a internet de un país o activar medidas de ataque de red.
    Con este enfoque es importante tener en cuenta nuestro papel como profesionales en formación y entender hasta que punto un proyecto de esta envergadura puede afectar la población general o en su defecto como esto puede llegar a cometer errores de aprendizaje y producir una posible guerra o en su defecto cometer errores de ataques.

    1. Responsabilidad del ser humano al momento de programar las maquinas

      Estoy de acuerdo con el comentario, debido a que sin una buena planeación, sin cumplir las leyes de la robotica, diseñar algo con muchos propósitos y fines, y tras del hecho diseñarlo para hacer todo tipo de cosas que no se incluyan en el bien social, es posible que se salga de control y pueda convertirse en una amenaza para la humanidad. Es nuestra labor determinar hasta que punto la maquina debe ir, sin así quitarle la capacidad de aprender el doble de rápido, sólo hay que hacerlo de manera correcta, y siempre buscando un beneficio social.

      Todas estas IAs que vemos con el pasar de los días, han dado solución a diversas problemáticas, en cuanto a salud, educación, negocios y demás, pero cada vez debemos hacer más exigente la creación y el control de dichas maquinas, ya que no hacer esa ardua tarea nos traería grandes problemas en un futuro.

    2. LOS HUMANOS VAMOS CAMINO AL DESASTRE

      Cada vez que el humano a avanzado tecnológicamente, culturalmente y social mente, los que controlan han buscado poder tener el control de todo para que ellos no lo pierdan, esto ha llevado a sistemas avanzados de vigilancia que dicen ser para nuestra seguridad. Y con los avances en tecnología entre menos humanos se vean involucrados en la vigilancia mejor así que deciden crear sistemas que controlen las armas dando el peligro de un posible fallo, y dispare armamento contra la población civil indiscriminadamente.

  42. UNA IA AVANZADA, EL CAMINO AL DESASTRE

    Siempre se ha visto que crear maquinas avanzadas es el futuro, facilitando la vida humanada y lo mas probable mejorando la, pero esto a conllevado siempre a la idea de que esta IA tome la decisión de exterminar a toda la raza humana no importa el motivo, esto lleva a que se tome como un tema de discusión sobre si deberíamos estudiar el echo de dar un libre albedrío a estas por miedo a que se revelen y empiece una guerra por la supervivencia.

  43. ¿Tener cuidado con el desarrollo de la Inteligencia Artificial?

    El tema de la inteligencia artificial es un tema que en la actualidad está generando mucho de que hablar ya que se esta viendo mucho en la sociedad donde en nuestro día a día se esta volviendo cotidiano, nosotros como programadores debemos ser conscientes que la inteligencia artificial es un tema de bastante cuidado ya que puede que en un futuro tome un cambio bueno o malo.

    Desde mi punto de vista la inteligencia artificial es una de las ramas con mayor campo a nivel laboral ya que varias empresas se están volcando a sistematizar varias cosas, donde un desarrollador pueda generar un sistema que ayude a la sociedad simplificando mucho más la sociedad.

    1. El enfoque al cual va dirigido la IA es lo primordial

      Día a día las empresas y entidades van implementando la IA para su buen uso y para obtener beneficios con ello, es un buen campo al que debemos apuntar a futuro, pero siempre con el cuidado y la premisa de “no permitir que las maquinas nos dominen”, eso depende de nosotros y en los prototipos que diseñamos, siempre manejando un buen propósito y fin con ellas.

      Con una simple instrucción que quede mal diseñada u orientada, ya estaremos en peligro, por eso lo ideal es mantener un buen diseño y control del prototipado, para no arriesgar ni crear un sistema el cual se salga de control y ocasione desastres.

  44. ¿Podría una súper inteligencia artificial que el ser humano creara en el futuro llegar a volverse contra la humanidad?

    Esta es una de las cuestiones que se plantean en el experimento mental conocido como el Basilisco de Roko. Una hipótesis muy controvertida que llegó a ser censurada durante años que expone los riesgos que supondría el crear una inteligencia artificial que llegara a alcanzar la singularidad tecnológica.

    Esta inteligencia no tendría por qué actuar maliciosamente sino que decidiría desde su propia lógica las acciones a tomar para con el ser humano, en este caso, castigar a los individuos seleccionados que cumplieran un único parámetro de una forma muy interesante. ¿Hasta qué límites podría llegar esta inteligencia artificial?

    La tecnologia va avanzando, conocemos algunos sistemas que van avanzando a medida que pasa el tiempo, uno de ellos es el reconocimiento de voz Siri no es el único agente que te entiende. Cada vez más sistemas incorporan la transcripción y transformación del lenguaje humano a formatos útiles para las computadoras.
    Actualmente se implementa en sistemas interactivos voice response (reconocimiento de voz) y en aplicaciones móviles.

    Algunos ejemplos de proveedores son: NICE, Nuance Communications, OpenText, Verint Systems.

    Plataformas machine learning
    Ahora las computadoras también aprenden y ¡vaya que pueden llegar a ser inteligentes!

    El aprendizaje automático o aprendizaje de máquinas (en inglés machine learning) es el sub-campo de las ciencias de la computación y una rama de la inteligencia artificial cuyo objetivo es desarrollar técnicas que permitan a las computadoras aprender.

    Proporcionando algoritmos, APIs (interfases de programación de aplicaciones), herramientas de desarrollo y training (entrenamiento), así como el procesamiento y análisis en tiempo real de Big Data, las plataformas con machine learning están cobrando día con día mayor relevancia…

    Actualmente, se utilizan en gran variedad de aplicaciones empresariales, principalmente para realizar predicciones o clasificaciones.

    Algunos proveedores son: Amazon, Fractal Analytics, Google, H2O.ai, Microsoft, SAS, Skytree y Adext.

    algunas de las razones mas claras es que la inteligencia artificial puede volverse contra la humanidad
    entre las principales advertencias se habla de la posibilidad de que en un ambiente no controlado en forma adecuada, los sistemas de inteligencia artificial podrían tener comportamientos no deseados e incluso dañinos
    La comunidad muestra así la preocupación ante una posible independencia de inteligencia artificial, capaz de pueda tomar vida propia y superar la que ha figurado el hombre. De este modo, quienes hoy estamos a cargo de estos dispositivos perderíamos el control sobre las máquinas y estas podrían actuar en contra de sus creadores.

  45. TIEMPO ESCRITO…
    Es algo muy normal ver teorías conspirativas en las que la tecnología se apodera de otros, es tan común como ver películas como yo robot o la saga de terminator, pero en verdad no es nada alejado de la realidad, debido a que si nos fijamos en nuestra vida cotidiana, es normal ver la gran mayoría de personas, sistemas de transporte o empresas, manejadas todo gracias a los avances tecnológicos, en los cuales día a día, nosotros mismos buscamos que ellos se manejen por si solos, cada vez más, a nivel empresarial quizás se vea muy interesante, pero aunque se vea como el paraíso que nos venden, debemos ser conscientes, que esto elevara el número de empleados, desde otro punto de vista se acabaran algunas carreras profesionales, ya que se podrá dar el suficiente conocimiento a la tecnología. Rotundamente estoy en contra de dar el suficiente poder a que una maquina la cual con el tiempo muy posiblemente nos pueda dominar, empezando por el hecho de que esta tecnología, va a razonar lo que a consecuencia por más que prevengamos una revelación tecnológica, ellos podrán reaccionar en contra de esto, lo que a mi pensar es que jamás podremos controlar esto, simplemente por el punto de vista donde lo mire, creo que nosotros mismos cavamos nuestra tumba, al dar la probabilidad de tener un apocalipsis robótico y finalmente, acabar la raza humana, al jugar a ser Dios.

    1. LA CIENCIA FICCIÓN SE ACABO

      Pese a ser este un escenario de pura fantasía, la amenaza robótica ha pasado de ser un recurso común de la ciencia ficción a un tema que se toman muy en serio gobiernos y prestigiosas universidades. Según los científicos, subestimar los riesgos que entrañan los robots inteligentes sería “peligroso”, teniendo en cuenta lo rápido que avanza el campo de la Inteligencia Artificial. Esperemos que esto no se nos salga de las manos.

Los comentarios están cerrados.