$ 2 millones donados para mantener la inteligencia artificial general beneficiosa y robusta - inteligenciaes
Cadena de bloques

$ 2 millones donados para mantener la inteligencia artificial general beneficiosa y robusta

Se han asignado $ 2 millones para financiar investigaciones que anticipan la inteligencia artificial general (AGI) y cómo se puede diseñar de manera beneficiosa. El dinero fue donado por Elon Musk para cubrir subvenciones a través del Future of Life Institute (FLI). Se han seleccionado diez subvenciones para su financiación.

Dijo Tegmark: “Soy optimista de que podemos crear un futuro inspirador de alta tecnología con la IA siempre que ganemos la carrera entre el poder creciente de la IA y la sabiduría con la que la gestionamos. Esta investigación es para ayudar a desarrollar esa sabiduría y aumentar la probabilidad de que AGI sea lo mejor y no lo peor que le suceda a la humanidad “.

La inteligencia artificial (IA) actual sigue siendo bastante limitada. Es decir, solo puede realizar un conjunto limitado de tareas, como jugar al ajedrez o Go, conducir un automóvil, realizar una búsqueda en Internet o traducir idiomas. Si bien los sistemas de IA que dominan cada una de estas tareas pueden realizarlas a niveles sobrehumanos, no pueden aprender un conjunto de habilidades nuevas y no relacionadas (por ejemplo, un sistema de IA que puede buscar en Internet no puede aprender a jugar Go con solo sus algoritmos de búsqueda ).

Estos sistemas de inteligencia artificial carecen de esa capacidad “general” que tienen los humanos para establecer conexiones entre actividades y experiencias dispares y para aplicar el conocimiento a una variedad de campos. Sin embargo, un número significativo de investigadores de IA está de acuerdo en que la IA podría lograr una inteligencia más “general” en las próximas décadas. Nadie sabe cómo la IA que es tan inteligente o más inteligente que los humanos podría afectar nuestras vidas, si resultará beneficiosa o dañina, cómo podemos diseñarla de forma segura o incluso cómo preparar a la sociedad para la IA avanzada. Y a muchos investigadores les preocupa que la transición pueda ocurrir rápidamente.

Lee mas  Microsoft: Impulsando el éxito empresarial con IA

Anthony Aguirre, cofundador de FLI y profesor de física en UC Santa Cruz, explica: “Los avances necesarios para tener inteligencias de máquinas tan flexibles y poderosas como la nuestra pueden llevar 50 años. Pero con los principales recursos intelectuales y financieros que ahora se dirigen al problema, es posible que se requiera mucho menos. Si o cuando haya un gran avance, ¿cómo se verá? ¿Podemos prepararnos? ¿Podemos diseñar funciones de seguridad ahora e incorporarlas en el desarrollo de la IA para garantizar que una IA potente siga beneficiando a la sociedad? Es posible que las cosas se muevan muy rápido y necesitamos una investigación para asegurarnos de que vayan bien “.

Los temas de la subvención incluyen: capacitar a múltiples IA para trabajar juntas y aprender de los humanos sobre cómo coexistir, capacitar a la IA para comprender las preferencias humanas individuales, comprender lo que realmente significa “general”, incentivar a los grupos de investigación para evitar una carrera de IA potencialmente peligrosa y muchos más. Como se indica en la solicitud de propuestas, “el enfoque de esta RFP es la investigación técnica u otros proyectos que permitan el desarrollo de IA que sea beneficioso para la sociedad y robusto en el sentido de que los beneficios tienen algunas garantías: nuestros sistemas de IA deben hacer lo que queremos. hacer.”

Algunos de los beneficiarios de la subvención ofrecieron declaraciones sobre por qué están entusiasmados con sus nuevos proyectos:

Lee mas  3 Problemas Masivos De Macrodatos Que Todos Deberían Conocer

“El equipo del Programa de Gobernanza de la IA está emocionado de realizar esta investigación con el apoyo de FLI. Hemos identificado un conjunto de preguntas que creemos que se encuentran entre las más importantes a abordar para asegurar una gobernanza sólida de la IA avanzada, y creemos firmemente que con una investigación enfocada y la colaboración con otros en este espacio, podemos lograr avances productivos en ellas “. -Allan Dafoe

“Estamos entusiasmados con este proyecto porque brinda una primera oportunidad única y original de estudiar explícitamente la dinámica de los comportamientos que cumplen con la seguridad dentro de la carrera de investigación y desarrollo de IA en curso y, por lo tanto, potencialmente conduce a un asesoramiento basado en modelos sobre cómo regular oportunamente la Presentar la ola de desarrollos y brindar recomendaciones a los encargados de formular políticas y a los participantes involucrados. También brinda una oportunidad importante para validar nuestros resultados anteriores sobre la importancia de los compromisos y otros mecanismos de confianza para inducir un comportamiento prosocial global, promoviendo así aún más la IA para el bien común ”. -El Ahn Han

“Estamos entusiasmados con el potencial de este proyecto. Nuestro objetivo es aprender modelos de las preferencias de los humanos, lo que puede ayudarnos a crear algoritmos para AGI que puedan interactuar y colaborar con las personas de manera segura y confiable “. -Dorsa Sadigh

Lee mas  El estado de la IA en 2020: democratización, industrialización y el camino hacia la inteligencia artificial general

Esta es la segunda ronda de subvenciones de FLI. El primer lanzamiento en 2015 y una lista completa de trabajos, artículos e información de esa ronda de subvenciones se pueden encontrar aquí . Ambas rondas de subvenciones son parte de los $ 10 millones originales que Elon Musk prometió para la investigación de seguridad de la IA.

La cofundadora de FLI, Viktoriya Krakovna, también agregó: “Nuestra ronda de subvenciones anterior promovió la investigación sobre un conjunto diverso de temas en seguridad de la IA y apoyó más de 40 artículos . La próxima ronda de subvenciones se centra más en la investigación sobre la seguridad y la estrategia de AGI, y espero con ansias el gran trabajo en esta área de nuestros nuevos beneficiarios “.

Leave a Comment