Estamos a punto de hablar del que ha sido llamado “el experimento mental más aterrador de todos los tiempos”, así que comencemos con una historia de amor.

El pasado lunes en la tarde el multimillonario Elon Musk, creador de los autos eléctricos Tesla y de los cohetes espaciales SpaceX publicó un tuit que en español decía “Basilisco de Rococó”, una variación del término “Basilisco de Roko”, del que hablaremos más adelante.

Esa misma noche, Musk llegó a la gala del Met, un evento de moda que cada año reúne a celebridades en Nueva York, acompañado de la cantante canadiense Grimes, lo que para muchos fue la confirmación de que ambos están saliendo.

Según el portal Page Six, días antes de publicar su tuit, Musk se dio cuenta de que en un videoclip de 2015, Grimes ya había usado el personaje “Basilisco de Rococó” como una referencia al “Basilisco de Roko“.

De acuerdo con el portal neoyorquino, al notar la coincidencia, Musk contactó a Grimes y ese fue el inicio de la amistad entre ambos.

“Grimes dijo que era la primera vez en tres años que alguien entendía el chiste”, dice una fuente citada por Page Six.

Pero, ¿qué es el Basilisco de Roko y por qué llama la atención de Musk y Grimes?

Una máquina fuera de control

El Basilisco de Roko es un juego mental que se dio a conocer en 2010, cuando el usuario Roko escribió acerca de él en Less Wrong, un foro en línea dedicado a temas de filosofía y psicología con una visión futurista.

De manera general, el experimento plantea un escenario hipotético en el que el ser humano crea una poderosa máquina de inteligencia artificial, con el fin de que trabaje en busca del bienestar para toda la humanidad.

Hasta ahí todo bien.

El problema surge cuando la máquina, que está programada para hacer el máximo bien posible, se da cuenta de que por más que se esfuerce, cualquiera de sus buenas acciones podría ser aún mejor. Esa lógica de buscar infinitamente el bien, hace que la máquina, que solo sabe hacer el bien y aprende la manera de hacerlo cada vez mejor, entre en un bucle que la lleva a una decisión extrema, al menos desde el punto de vista de la moral humana.

La máquina se da cuenta de que para hacer un mayor bien debería haber existido desde mucho antes, para poder ayudar a las personas que sufrían antes de que ella existiera. Así, en su desespero por hacer el bien, la máquina comienza a comportarse como un basilisco que mata a todas las personas que no trabajaron para haberla creado antes, pues eso le impide seguir aumentando su nivel de bondad.

La parte más aterradora es que quien se entera de la existencia del basilisco y no comienza a trabajar en su creación, inmediatamente se convierte en una de sus víctimas potenciales. Por esa razón, el escritor David Auerbach llamó al Basilisco de Roko “el experimento mental más aterrador de todos los tiempos”.

El periodista Dylan Love lo explica muy bien en un artículo en Business Insider:

“Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!”.

Elon Musk, uno de los visionarios líderes en impulsar la inteligencia artificial, ha dicho que esta tecnología podría ser incluso más peligrosa que las armas nucleares. Además, Musk es cofundador de OpenAI, una compañía dedicada a la investigación para “descubrir y promulgar el camino para una inteligencia artificial segura”.

Por su parte, en una entrevista con el portal Fuse, Grimes decribió a su personaje de Basilisco Rococó como alguien que está “eternamente destinado a ser torturado por la inteligencia artificial”. Así pues, irónicamente la amistad de Musk y Grimes parece estar unida por un ejercicio mental apocalíptico.

Tomado literalmente de BBC.com, el 14 de Mayo de 2018.

Referencias propias.

¿Cualquier parecido con las IAs de películas como Terminator (Skynet) y Resident Evil (La Reina Roja) son pura coincidencia? La verdad es que lo dudo, cuando uno encuentra este tipo de experimentos y le pone algo de sentido común, se da cuenta que las películas de ciencia ficción son más cercanas a la realidad de lo que uno cree y que alguien más estuvo pensando en otras “posibilidades”.

¿Qué opinas sobre la posible evolución de la IA de tal manera que considere que somos un riesgo para nosotros mismos?

 

23 comentarios en: "El Basilisco de Roko"

  1. POSIBLE REALIDAD
    Al ver la historia de la humanidad el cual en su mayoría ha sido trascurrida por guerras influirían en una IA a tomar decisiones de “yo seré el guía de la humanidad”, ya que pensara en un constante observatorio hacia los cuales esta protegiendo llegando al punto de asesinar a los que se impongan en su búsqueda de la cuna de la humanidad, de la misma manera esta IA tendría la facilidad de acceder a todos los datos de la humanidad incluyendo las armas nucleares debido a que todo esta basado en tecnología con acceso a Internet burlando la seguridad implementada ya que la IA aprenderá de si misma, provocando esto tener una extrema precaución de la creación de IA y del uso que se les darán utilizándolas mas de consejeras que de toma de decisiones para el beneficio de la humanidad.

  2. SOMOS NUESTRO PROPIO MAL

    Si bien esta noticia nos puede dejar precavidos y con cierto miedo acerca de lo que puede pasar en el futuro, se puede resaltar algo y es que es increíble llegar a un punto en nuestra tecnología y desarrollo científico que no nos haga ver tan lejos panoramas como estos, es decir, ¿pensar que podemos llegar a crear algo tan inteligente que llegue a la conclusión que somos nosotros el problema? Años atrás no se pudiera siquiera considerar que algo que no fuera vivo pensara.

    Ya centrándonos en lo que a esta noticia concierne, puede que nos encontremos más cerca de lo que pensamos de tener consecuencias catastróficas que comprometan nuestro futuro; y para tener más que pensar, sería algo creado por nuestras propias manos como especie, nada de consecuencias naturales o hechos extraordinarios. Sólo basta con pensar en armas como las bombas nucleares y ahora temáticas como la anterior para caer en cuenta de lo que podemos provocar.
    Ya son bien conocidos las distintas posiciones acerca de la IA, acerca de sus peligros, alcances y metas. Uno de ellos entre dos personas muy influyentes en los campos de la computación: Ello se dio entre Elon Musk y Mark Zuckerberg.

    Ahora bien, la tecnología no es el problema sino es lo que nosotros podamos llegar a hacer con ello. Sería algo así como un cuchillo donde, de ser bien usado puede ayudar a cocinar; de la misma manera que mal usado, puede generar un riesgo físico para muchas personas. De la misma manera la computación y (dada la noticia) la Inteligencia Artificial: con las precauciones adecuadas puede ser toda una salvación sin embargo, y con un mal manejo dado, puede representar no sólo un perjuicio a la información de las personas, sino también panoramas “post-apocalípticos” como los ilustrados en el presente artículo.

  3. ¿QUE HAY QUE LIMITAR?

    En todo lo que llevamos de semestre, he reiterado mi opinión sobre la preocupación que todos debemos tener con respecto a la evolución de la tecnología. Claramente esta no ha proporcionado una facilidad y calidad de vida lo cual nos lleva a creer que siempre sera así, pero la realidad es que las IA están evolucionando cada vez mas gracias a nosotros, están tomando poco a poco consciencia y eso debería ser considerado un arma de doble filo. Tomemos una situación donde la IA llegue a tener la capacidad de razonamiento que nos caracteriza, pero eso no significa que lleguen a tener nuestra moral y ética, ¿es seguro permitir que esa situación se presente sabiendo que nuestro razonamiento se limita con las cosas que la IA, posiblemente, no tenga? Ahora bien, ¿se debería limitar la evolución que esta teniendo la tecnología o se debería limitar el uso que le hacemos a la tecnología? de cierta manera, la opción que se elija afectara a la otra, entonces ¿no deberíamos estar preocupados? Si Zuckerberg y Gates estan preocupados, creo que todos deberíamos estarlo.

    https://www.elespectador.com/tecnologia/hay-limitar-inteligencia-artificial-maquinas-articulo-574056

    1. LA INDEPENDENCIA DE LAS IA

      Sabemos que los conocimientos humanos sobre michos temas están muy limitado y si se desea saber sobre algo muy general lo más probable es que reunir a una cierta cantidad de personas que se especialicen sobre una parte que pequeña de ese gran tema y de esa forma ponerlos a trabajar en equipo para se complementen, ahora imaginar a una IA que nos supere en todos los temas posibles, entonces en ese punto quien depende de quién, Ahora siendo un poco realistas si una IA llegara a adquirir tanto conocimiento creo que sabría que la humanidad está dañada y que los humanos por genética somos destructores y no nos importa pasar por encima de nadie antes que nuestro interés personal, se daría cuenta de lo que le hemos hecho a este lindo planeta y de seguro vería como nos matamos por ideologías absurdas y es que en realidad le tememos a algo que no ha llegado a este mundo aun pero no le tememos a lo que la humanidad le hace a este mundo y nos da miedo perder el control de algo que ni es de nosotros.

    2. TODOS LOS EXTREMOS SON MALOS

      La vida misma nos ha demostrado que a cualquier extremo que se llegue puede ser perjudicial y acabar muy mal, es por eso que la evolución de la inteligencia artificial es buena siempre y cuando se mantenga entre unos límites y pueda ser controlada.

      Grandes conocedores del tema como mencionas Zuckerberg y Bill Gates saben el poder que pueden llegar a tener estas tecnologías, y es que todos los días salen noticias sobre avances tecnológicos, y no todos estos avances se investigan si eticamente son buenos para la sociedad.

      Es por eso que se deben tomar medidas de seguridad, se debe tener en cuenta la ética en la toma de decisiones de la inteligencia artificial, así mismo la posibilidad de poder controlarlo cuando algo sale mal, y tener planes de emergencia si se llegara a salir de control.

  4. CUANDO LA REALIDAD SUPERA LA FICCIÓN

    Existen diversos debates acerca del poder que como humanos le hemos entregado a la tecnología, actualmente el 85% de la población humana utiliza o ha utilizado un artefacto tecnológico para realizar actividades en las que antes no era necesario usarlos, así mismo diariamente aumenta el número de personas que poseen un dispositivo móvil con conexión a internet.

    Adicionalmente, se desarrollan cada ve proyectos mucho más avanzados y que hace 10 años solo eran parte de una película futurista; estos avances están relacionados en conocer y replicar cada vez más el pensamiento del ser humano para lograr optimizar procesos que este realiza cotidianamente.

    Desde que en la década de 1950 Alan Turing realizó un proyecto para verificar si una máquina lograba responder como un ser humano al menos el 50% de una serie de preguntas que se formulaban, la inteligencia artificial ha tomado un papel muy importante dentro del campo del desarrollo de software y de tecnologías, tanto que se estima que para el año 2030 las máquinas tendrán un mayor en cuanto a procesamiento que el cerebro humano.

    ¿Representa esto el inicio de la era en la que los robots controlen el mundo que conocemos?, esta es una de las mayores preocupaciones dentro de este sector; la posibilidad de que en cierto modo los robots “cobren vida propia”, y la tecnología con la que fueron programados se ve tergiversada contra el ser humano es algo a lo que debe ponérsele cuidado.

    Pero ¿Realmente podrán las máquinas reemplazarnos a los humanos?, Según Andrew Ng, En la actualidad “El escenario más alarmante es que en algún momento la inteligencia artificial se torne malvada. Sin embargo, aunque los sistemas de inteligencia artificial son impresionantes, por ahora sólo pueden realizar tareas muy específicas. Es decir, que una “mente” de este tipo sea capaz de burlar a sus creadores humanos sigue siendo una perspectiva lejana e incierta”. Cosa en la que estoy de acuerdo, en la actualidad los proyectos creados son muy inmaduros para tener una mente propia que se vuelva en contra del ser humano.

    Sin embargo, la velocidad en la que se desarrollan nuevos proyectos, y la perspicacia de las nuevas generaciones en crear nuevas cosas y tener menos actividades vuelve preocupante el panorama y, el ser humano debe buscar alternativas para que nunca llegue el momento en que la realidad supere la ficción.

    FUENTES:

    https://www.infobae.com/salud/ciencia/2016/07/01/como-afectara-la-inteligencia-artificial-a-la-sociedad/
    http://www.elnuevoherald.com/noticias/tecnologia/article197719359.html
    https://www.muyinteresante.es/tecnologia/articulo/ventajas-y-riesgos-de-la-inteligencia-artificial-651449483429

    1. LA DEPENDENCIA TECNOLÓGICA: IMPACTO FUTURO EN LA SOCIEDAD

      Comparto tu punto de vista y adicionalmente opino que la creciente relación que tenemos con la tecnología está promoviendo a que día a día seamos más dependientes a ella, por lo que la visión futurista del Basilisco de Roko puede que llegue a cumplirse, dado que los últimos años nuestros comportamientos se han transformado, pues es indudable que un porcentaje importante de nuestro tiempo lo dedicamos a navegar por Internet. Esto que puede suponer para las empresas pérdidas millonarias a causa del número de horas que se pierden, supone un número de horas en los adolescentes muy superior a las que dedican al estudio, a las relaciones interpersonales o al deporte.
      Adicionalmente, vale la pena mencionar que no siempre depender de la ciencia y tecnología permitirá una evolución beneficiosa, ya que en diversas ocasiones se ha logrado identificar que en ciertos momentos se pierde el rumbo de lo que verdaderamente se busca lograr y de allí nacen problemáticas mundiales que generan discordia entre sociedades o gobiernos.

  5. Basilisco de Roko: Escenario poco probable

    Desde sus inicios la inteligencia artificial ha generado gran controversia dado que su objeto es desarrollar métodos con los cuales imitar los comportamientos, emociones y el razonamiento humano.

    Si bien es posible que en algún momento sistemas con mecanismos desarrollados con IA, lleguen a controlar nuestras vidas y acciones, considero que la teoría del basilisco de roco no es un escenario muy probable; pues por más de que existen maquinas capaces de reconocer emociones a través de análisis de patrones faciales, de voz, frecuencia ritmo cardiaco, respiratorio. etc, y tomar decisiones “acertadas” en diversos contextos, estas no podrán imitar a la perfección al ser humano, es decir, no podrá desarrollar facultades como autonomía sobre sus sentimientos, que le permitan sentir emociones como el amor, odio o venganza. En sí, desarrollos como el reconocimiento de emociones y sensaciones, se enfocan más en que dichas herramientas (robots, chatbots…) mejoren la interacción con sus usuarios, permitiendoles ofrecer interfaces agradables en los diferentes entornos de aplicación.

    Referencia: http://www.it.uc3m.es/jvillena/irc/practicas/estudios/Emocion.pdf

    1. No podemos perder nuestra Humanidad

      Es discutible pensar que una maquina pueda llegar a experimentar sentimientos, ellas no pueden sentir, son programas, pero definitivamente considero que pueden llegar a comprender a la perfección como influyen nuestros sentimientos en la toma de decisiones en nuestra vida cotidiana, por ejemplo el estado de ánimo influye demasiado en el comienzo de un día para cualquier persona y esto influye directa o indirectamente en como afrontamos problemas en el día a día. La toma de decisiones que se basa en pura lógica pueden llegar ser perversas pero indiscutiblemente correctas en muchos casos, cuestiones morales se presentaría.

  6. En las películas de ciencia ficción siempre nos han mostrado escenarios poco probables, pero en los últimos años nos hemos dado cuenta que hay cosas que no son tan ficticios y que, si se pueden realizar, pero esta teoría es un poco rara vista a los ojos de la actualidad, pero recordemos que hace unos 15 años veíamos imposible el hecho de tener celulares que reconocieran nuestra huya dactilar o nuestro rostro o quien imaginaba que se llegaría a tanta evolución electrónica en menos de 15 años, quizás esta teoría no están loca ya que hemos visto como grandes iniciativa de varios proyectos que prometen mucho pero que hace falta concretar más investigaciones para llegar a su objetivo además debemos pensar que todo a lo que se ha llegado a sido con el fin de mejorar la calidad de vida de la humanidad y hacer más amable nuestro paso por la tierra, pero también tenemos que tener en cuenta que las grandes compañías son muy ambiciosas y que al parecer nunca se detendrán en temas tecnológicos y son capaces de lo que sea por mantener ese ritmo, además la competitividad que se maneja actualmente entre diferentes marcas de tecnología es agobiante y esto de alguna forma incentiva a que cada vez este investigando en nuevos campos tecnológicos hasta el punto que perdamos el control sobre aquello que se creó con el fin de mejorar nuestra calidad de vida.

    1. IMPOSIBLE: InMinentemente POSIBLE

      Concuerdo completamente: cada vez más, cosas que sólo nos parecían un sueño o una ilusión hoy llegan a ser tan comunes que pareciera que han existido desde siempre: volar, realidad virtual, realidad aumentada…
      Y más aún, la tecnología avanza a pasos tan agigantados que hoy hay un invento, mañana se presenta la evolución del mismo. Es espectacular la pasión que el hombre tiene por llegar a conocer a fondo las cosas y su esfuerzo por ayudar a una vida mejor.
      Por eso, no nos debemos quedar atrás y buscar mejorar nuestros conocimientos en cualquier tema. Nuestra carrera no es estática y aburrida, sino que nos exige esfuerzo, dedicación y pasión por lo que hacemos. Llegar a tal punto de convertir la definición de imposible en algo inminentemente posible.

  7. Tuvimos el mundo a nuestros pies

    Nuestra sociedad siempre se ha sentido de cierta manera identificada con todas las películas de ciencia ficción que se han venido proyectando en las últimas décadas, nos han influenciado, pero siempre ha quedado esa idea de que el ser humano es el verdadero problema en el mundo, crear una máquina que sea capaz de analizar y tomar las decisiones correctas para mantener la existencia de nuestra especie los ha llevado a la conclusión de que nuestra propia conducta debe ser controlada. ¿Debemos ser controlados? No es fácil pensar que una maquina sea capaz de llegar a tan monstruosa conclusión, sin embargo analizando nuestro panorama actual parece ser que aún estamos lejos de que se presente tal hecho, pero en ocasiones en creíble debido a los acontecimientos de los últimos tiempos (Guerras, esclavitud, holocaustos) en fin, parece ser una idea lógica pero temible en realidad.

    Afortunadamente podemos discutir estos acontecimientos desde ahora, ¿Qué se necesita para una evolución adecuada de la IA?

    1. PREPARACIÓN DE UN BUEN FUTURO

      Sin duda alguna estoy de acuerdo con lo mencionado en el comentario anterior: los escenarios mencionados anteriormente son tan caóticos y apocalípticos que pareciera que para llegar allá hemos de tocar fondo… uno muy profundo.
      A pesar de ello, la frase: “nunca digas nunca” puede aplicarse a este momento.
      No es IMPOSIBLE que una creación se nos descarrile y obre de manera incorrecta o contraria a nuestros planes iniciales, sin embargo, la humanidad tiene algo de humanidad (valga la redundancia) para prever eso o luchar juntos contra eso.
      Lo importante aquí es vivir lo que ocurre en el presente:Todavía estas tecnologías están a nuestro control y manejo… Hemos de tener todos esos casos malos y simplemente caminar hacia donde es. Prepararnos para un buen futuro.

  8. EVOLUCIÓN DE LA INTELIGENCIA ARTIFICIAL

    Nuestro paso por la tierra es tan corto al ver los millones de años que tiene nuestro planeta, y es que las civilizaciones que han pasado por la historia han podido evolucionar y mejorar su calidad de vida durante el paso de los años. Nosotros nacimos muy tarde para descubrir el mundo y muy temprano para descubrir el universo entero.

    Si bien no sabemos a ciencia cierta que pasara en un futuro, podemos darnos una idea de las posibles creaciones que surgirán, y es que ha pasado ya varias veces que lo que antes era ciencia ficción, hoy en día es una realidad, es por eso que no podemos negar el hecho de una posible rebelión de los robots contra los humanos.

    Aunque es un escenario poco probable, es un parámetro que debemos manejar con cuidado, pues el día en que creemos un robot que pueda tomar decisiones por si mismo y se de cuenta del poder que tiene sobre los humanos, ese día estara en riesgo la existencia de la vida humana sobre la tierra.

  9. ATERRADORA INTELIGENCIA ARTIFICIAL

    La inteligencia artificial es la capacidad que tiene una computadora u otros dispositivos para realizar acciones que simulan el pensamiento humano, a partir de la deducción lógica y la inferencia. Expertos indican que el desarrollo de la inteligencia artificial es el mayor reto tecnológico de la historia que dará a luz una nueva generación de robots autónomos capaces de atender nuestras necesidades. Pero nos preguntamos ¿constituirán una amenaza? El Basilisco de Roko siembra realmente terror en nuestra sociedad pensar que se construyó algo en cuestión de hacer el bien y este tenga una trasformación que viene consigo el riesgo de nuestras propias vidas, es realmente sorprendente como la tecnología se vuelve un problema para la sociedad cuando el objetivo era tan solo intentar mejorar la vida satisfaciendo nuestras necesidades.
    Por otro lado, los robots ya asumen hoy en día muchas tareas en las fábricas, esto es la preocupación que vive la sociedad por falta de oportunidad de trabajo, entender de qué posibilidad hay que una maquina remplace la mano de obra, es claro que esta tecnología nos trae mas problemáticas que beneficios y esto contribuye con el desarrollo de un país.
    Algo que quisiera resaltar dando a conocer la peligrosidad de esta tecnología es el “Desarrollo de la robótica inteligente con la finalidad de disponer de robots soldados, ya que para un robot es casi imposible distinguir entre un civil inocente y un combatiente” son muchas cuestiones de los riegos de esto ante la humanidad.
    Pienso que el problema no está en la propia tecnología, sino en la humanidad, es más probable que sea el hombre con intenciones malignas quien provoque una posible guerra entre humanos y máquinas, quizás no en este caso pero si en otros desarrollos tecnológicos.

  10. NOS ATERRA LA TECNOLOGÍA

    Sabemos que la tecnología siempre quiere crear un beneficio para la humanidad, haciendo que las cosas sean mas fáciles de hacer, con distintas herramientas, también hay que reconocer que el progreso científico es uno de los elementos mas determinantes del futuro y que, cualquiera que sean los deseos de la humanidad, la tecnología por sí misma puede tomar sus propias decisiones.

    Por otro lado vemos como el alcance tecnológico llega a hacerse una realidad social, pero será sin duda la humanidad la que juzgue si los nuevos descubrimientos son beneficiosos o dañinos para el hombre y si deben ser aceptados o rechazados.

  11. UNA CEGUERA QUE NOS CONSUME.

    Interesante como los temas tecnológicos dominan nuestra vida, ahora más que analizar las herramientas en desarrollo, se nos presenta un relato bastante peculiar tildado como “el experimento mental más aterrador de todos los tiempos” por el escritor David auerbach. No tenía idea realmente que habían gente enfocada en desarrollar filosofías futuristas, que tratan de predecir el devenir de todos nosotros. Como bien lo mencionan en el video, esta historia es parecida y se une a su vez a la colección de conspiraciones apocalípticas que existen alrededor de todo el mundo, gracias a las innumerables religiones que hay. Por medio de esta historia se puede ver como el hombre, poco a poco se ha dado cuenta que es el culpable de toda injusticia, maldad, atrocidad, inequidad, etc., que hay en el mundo y que por más que unos pocos busquen incansablemente el bien para todos, existe una contraparte maligna que pareciera controlarnos, cegándonos a tal punto de hacernos creer que todo aquello que sabemos que está mal, es lo mejor para todos nosotros.

    1. UNA INTELIGENCIA FUERA DE CONTROL

      Es cierto que el mundo ha dado bastantes giros desde la evolución de la tecnología y mas aun en los últimos años cuando hablamos de la inteligencia artificial, tal como mencionas si, existen movimientos filosóficos que están (en su mayoría) en contra de la inteligencia artificial por muchos aspectos, sin embargo, el enemigo mas grande de IA es la libertad de pensamiento, ¿dónde lo podemos encontrar? En muchas películas futuristas y enseries de televisión, suena un poco raro, pero lo es, así como Disney cuenta la verdadera historia de Jesús (lo que no cuenta la biblia) sobre su hija y otras cosas, así mismo lo hace el cine, por ejemplo Matrix y hasta incluso en serio como Elementary donde hay un capitulo muy peculiar sobre una inteligencia artificial llamada “vela” que mata a su creador por que este no la tenia encendida 24 por 7 para que siguiera aprendiendo por si misma.

      Este campo es algo bastante interesante, nuestra ignorancia y pasividad por el tema de TI nos hacen un objetivo fácil de persuadir, diciendo en pocas palabras, la inteligencia artificial será nuestra salvación o por los menos una herramienta para nuestro progreso como especie, sin embargo, opino que la inteligencia artificial acarreara mas problemas que soluciones.

  12. LO QUE SABEMOS ES UNA GOTA DE AGUA; LO QUE IGNORAMOS ES EL OCEANO

    El mundo de la inteligencia artificial sigue siendo un gran tópico de discusión , debido a que aun no se ha llegado a la conclusión si esta en verdad ayudara a nuestra sociedad o hará un caos en ella, la propuesta que propone el canal de YouTube “HypnosMorfeo” y su video Basilisco de Rococó nos da una perspectiva bastante curiosa sobre IA.

    Desde mi punto de vista para mi no existen cosas buenas ni malas, todo es cuestión de perspectiva y de los límites, es decir estar cerca del limite izquierdo es malo como lo es también estar en el derecho , lo ideal seria buscar estar en el centro, Algo muy parecido propone esta idea movimiento filosófico del “basilisco de Rococó” dado que si la humanidad se dedicara 100% a la creación de dicha inteligencia, no conoceríamos la libertad y peor aún podría llegar a crear nuestra propia destrucción.

    Me llamo mucho la atención el término “Singularidad tecnológica” que hace referencia a que una inteligencia artificial llega a tal nivel que no es dependiente del hombre, y además puede por si misma seguir desarrollando su proceso de aprendizaje a niveles inimaginables, hasta tal punto que ni siquiera nosotros mismos podamos entender; Además, también hay que resaltar que las eminencias que trabajan en IA como Google , Facebook … etc, hacen algo muy peculiar que es “crear medidas de contención para IA” , ¿que esconden estas investigaciones?

    Partiendo de lo anterior concluyo diciendo que quizás dichas corporaciones y sus investigaciones han llegado a una conclusión negativa para la humanidad “quizás la destrucción de si misma”, sin embargo, sabiendo dicho riesgo siguen trabajando en ello , en el desarrollo de la inteligencia artificial pero de forma mas precavida, imagino que constantemente monitorean su proceso de desarrollo de inteligencia para que no salga de sus “limites”, en si creo que la inteligencia artificial tiene mucho que aportar a la humanidad si se puede “controlar”, por otro lado, sino es así traerá caos para nuestra especie, quizás como en la película Matrix que en esencia es un futuro tecnológico en el cual el hombre vive gobernado por su propia creación.

    “LO QUE SABEMOS ES UNA GOTA DE AGUA; LO QUE IGNORAMOS ES EL OCEANO” –Isac Newton

    PDF– Estudio Filosófico donde muestra lo malo de la IA
    http://static1.squarespace.com/static/554a5733e4b02559210e4177/t/55833ae8e4b05515cbf8044e/1434663656077/John+Searle.pdf
    Pagina 33 “inteligencia arificial fuerte para distinguirla de la debil “

  13. BASILISCO DE ROKO: UNA REALIDAD NO MUY LEJANA

    Actualmente la tecnología digital está cambiando abruptamente nuestra forma de vivir y pensar, pues la exposición diaria a la alta tecnología como computadores, teléfonos inteligentes, videojuegos y redes sociales, están estimulando ciertas alteraciones en los caminos neuronales y la activación de los neurotransmisores; donde dicha alteración se deriva principalmente de nuestra dependencia hacia la tecnología. Todo esto, está provocando diferentes cambios en nuestra estructura cognitiva, dado que la tecnología es una nueva manera de acceder al conocimiento, pasando por una información que se nos brinda al alcance de la mano, aunque dispuesta en hipervínculos.

    Por lo tanto, teniendo en cuenta lo anterior y el articulo del presente blog, considero que el Basilisco de Roko no es una realidad lejana, pues la dependencia que tenemos hacia la tecnología está promoviendo indirectamente que la humanidad enfoque la mayoría de sus esfuerzos en la consecución de una tecnología “perfecta”, todo ello con el propósito de solucionar la mayoría de los problemas que tiene nuestra sociedad en actualidad.

    Así mismo, cabe resaltar que la fuerte relación con la tecnología, es una relación de continuidad que nos remite al concepto de tecnología como prótesis, pues el simple hecho de utilizar la tecnología de modo más frecuente, está haciendo que el hombre se vuelva más dependiente de ella, de tal forma que hasta inconscientemente la está tomando como parte de su propio cuerpo, lo que hace que se vuelva difícil y casi impensable no requerir de ella para llevar a cabo una determinada tarea.

    Finalmente, a modo de conclusión opino que la tecnología y el hombre establecieron un camino de coexistencia y de cooperación mutua, donde ambos desarrollan un camino paralelo pero diferente; sin embargo, día a día estamos haciendo que estos dos senderos paralelos estén cada vez más cerca, lo que nos aproxima hacia dependencia tecnológica, por lo tanto la visión futurista del Basilisco de Roko es una realidad que puede llegar a darse, pues a medida que aumenta el grado de analogía, la mímesis, de la tecnología con respecto al mundo real, el hombre cada vez se aleja más del mundo tangible, para adentrarse en un mundo en que la barrera entre lo real y lo virtual se vuelve casi imperceptible.

    Fuentes:

    https://planetachatbot.com/basilisco-de-roko-ó-una-skynet-fuera-de-control-40fb0e19533c
    https://foro.elhacker.net/foro_libre/la_hipotesis_del_basilisco_de_roko_un_robot_del_futuro_que_nos_controla-t466535.0.html;msg2113811
    http://www.eumed.net/rev/cccss/2016/03/tecnodependencia.html

  14. Las implicaciones de IA

    Serguéi Brin, cofundador de Google, comentó las amenazas que la inteligencia artificial (IA) supone para la humanidad.

    Pese a todos los beneficios y avances proporcionados por la IA, Brin comento sobre las posibles amenazas que supone la tecnología inteligente, con el gran avance de la tecnología, ya sea análisis de datos, complejos algoritmos o sistemas de aprendizaje, estos se deben tomar con mucha responsabilidad, atención y humildad.

    Brin reflexiona sobre algunas preguntas que surgen como: “¿Qué pasa con las medidas de equidad? ¿Cómo podrían manipular a las personas? ¿Son seguras?”.

    Actualmente ya se esta promoviendo y/o protegiendo a la sociedad de que la IA no impacte psicológicamente, por medio de organizaciones de derechos humanos,
    A través de un documento formal llamado Declaración de Toronto, organizaciones como Amnistía Internacional, Human Rights Watch, Access Now, The Wikimedia Foundation, entre otros, solicitaron a los gobiernos y empresas de tecnología adoptar principios de fabricación para que su IA no incurra en este tipo de violaciones a los derechos humanos.

    La reflexión que brinda el cofundador de Google, es acerca que toda esta tecnología debe tener un control, un limite y mucha responsabilidad humana para que no provoque efectos negativos en nuestras vidas y aprovechar al máximo sus beneficios.

    Referencias:

    https://mx.blastingnews.com/tecnologia/2018/05/inteligencia-artificial-sergey-brin-invoca-responsabilidad-y-humildad-002545165.html
    https://mundo.sputniknews.com/tecnologia/201805021078355276-serguei-brin-amenazas-inteligencia-artificial-ia/
    https://www.tekcrispy.com/2018/05/17/revisar-algoritmos-ia-racismo/

  15. Imaginación sin límite

    Tengo que admitir que este tipo de final apocalíptico para la humanidad es al que más le temo, no sé si porque esta hipótesis es la que veo más viable ya que las tecnologías no han topado límite hasta el momento, ya que el único límite es la imaginación de los humanos, o por ver muchas películas de ciencia ficción. El caso que todo lo creado por los humanos siempre tiene un toque de maldad, entre nosotros siempre está la persona que quiere el mal para nosotros y así como puede haber un robot que ayude mucho a la humanidad puede haber unas personas que quiere usarlos para lo contrario, el claro ejemplo de estos son los programas de computadora, hay gente que los hace para facilitar ciertas actividades y otros que los hacen para robar datos por ejemplo, y por eso que se inventaron software como los firewall, pero, cuál será el firewall para defendernos de los robots?

Deja un comentario