Inteligencia artificial amigable (Friendly AI, FAI - ing. Friendly Artificial Intelligence, Friendly AI, FAI ) - el concepto de filosofía de IA , un tipo hipotético de inteligencia artificial que no tiene un impacto negativo en la civilización humana . Muchos conceptos de IED incluyen la afirmación de que no solo no dañará a la humanidad, sino que también brindará apoyo material e informativo a las personas, hasta la plena satisfacción de los deseos y necesidades de cada individuo. "Friendly" en este contexto es un término técnico, lo que no significa que la IA necesariamente sentirá afecto y cercanía hacia la humanidad .
Promover la IA amigable es uno de los principales objetivos del Singularity Institute for Artificial Intelligence , así como obtener fondos para este proyecto y, en última instancia, crear una " IA semilla " cuyo sistema de motivación inicialmente tendrá una preocupación por la humanidad. Varios futuristas notables se han pronunciado en apoyo de Friendly AI, incluido el escritor e inventor Ray Kurzweil , el especialista en extensión de vida Aubrey de Gray y el cofundador de la Asociación Mundial Transhumanista Nick Bostrom .
El 11 de diciembre de 2015, Elon Musk , Sam Altman y otros fundaron la empresa OpenAI , cuyo objetivo es promover la creación de IA abierta.
El crítico más notable de la teoría de la IA amigable es Bill Hibbard , autor de Superintelligent Machines, quien considera que la teoría es incompleta. Hibbard escribe que la creación de IA requiere más discusión política sobre la creación de IA y la moralidad de la IA. También cree que la primera IA solo puede ser creada por poderosas corporaciones privadas (lo que Yudkowsky considera falso), y estas corporaciones multinacionales no tendrán ningún incentivo para implementar la amistad. Al criticar las pautas SIAI para la IA, propuso una arquitectura de objetivos de IA en la que la felicidad humana se define a través del comportamiento humano que expresa felicidad, en particular, la expresión de una sonrisa en el rostro. Yudkowsky respondió a esta crítica diciendo que tal función de utilidad tendría más probabilidades de satisfacerse si todo el sistema solar estuviera lleno de muñecos microscópicos sonrientes que debido a la felicidad real de las personas [1] .