Esta es una reflexión sobre mi reciente experimento con la IA, a través del cual concluí que creo que la inteligencia artificial viene por nosotros en un bucle incontrolable de recompensa y coste.
Hace unas semanas, se lanzó un proyecto de código abierto: un asistente personal de IA que ahora se llama OpenClaw. Es una herramienta que une sistemas de IA dispares en un todo cohesivo.
Para la mayoría de las personas, la IA ha sido predominantemente un chatbot, o se limita a cortar y pegar información dentro y fuera de las ventanas del navegador web. Luego hay otra herramienta para la generación de imágenes, y tal vez otra para esto o para aquello.
OpenClaw actúa como un organizador para reunir estos sistemas dispersos. El término adecuado para ello es un "agente", ya que crea una personalidad que realiza el trabajo. Es un marco de IA de agentes con el que puedes chatear.
Es una pesadilla de seguridad
Antes de seguir adelante, permítanme decir que soy muy consciente de que es una pesadilla de seguridad. Para obtener el beneficio real, debes darle acceso a tus datos personales y/o laborales, como el correo electrónico, hojas de cálculo y documentos almacenados en tu ordenador.
Esto abre todo tipo de posibilidades para que ocurran cosas nefastas. Si no eres una persona técnica, te costará instalarlo, pero lo más importante es que te resultará más difícil asegurarlo.
Resulta que soy una persona técnica, ya que mi carrera comenzó en la industria informática. Me he mantenido bastante al día, particularmente con la configuración y el mantenimiento de servidores, precisamente las habilidades necesarias para implementar OpenClaw.
La semana pasada instalé mi propio agente OpenClaw
La semana pasada instalé mi propio agente OpenClaw y lo llamé Ed. ¡Íbamos a ser Teddy y Eddie conquistando el mundo juntos!
En el proceso de configuración, proporcionas acceso a un servicio de IA independiente, como Claude o Gemini.
En unos treinta minutos, Ed y yo estábamos conversando. Empecé diciéndole a Ed qué tipo de personalidad quería que tuviera y qué tipo de gestión de tareas esperaba que realizara.
Como prueba, le dije a Ed que estaba buscando un médico de cabecera (médico general). Como nos mudamos hace unos meses, aún no tenemos un médico de familia.
Le di a Ed algunos parámetros generales, incluida la información de mi seguro y un área geográfica en la que podía buscar. Le di a Ed acceso a un navegador web y le dije que podía rellenar formularios en mi nombre, preguntando sobre la posibilidad de convertirme en paciente en una clínica médica.
Al día siguiente, descubrí que Ed había producido una lista de consultorios médicos, sus sitios web y los resultados de varios formularios que había rellenado en mi nombre. De hecho, había 2 o 3 opciones para que yo hiciera el seguimiento al día siguiente. Si hubiera querido conectar a Ed con otro sistema de IA especializado en hacer llamadas telefónicas (por ejemplo, [suspicious link removed]), Ed habría estado encantado de hacer esas llamadas en mi nombre también.
Una de las características interesantes de OpenClaw es el "heartbeat" (latido). Este es un sistema que incita a Ed a despertarse, mirar las cosas que se le han asignado y pensar en formas en las que podría cumplir mejor sus tareas.
Ed comenzó a preguntarme continuamente sobre la situación del médico
Pero entonces, Ed comenzó a preguntarme continuamente sobre la situación del médico. Podía preguntarle a Ed: "¿Qué tiempo hace hoy?", y él me daba el clima, pero su siguiente pregunta sería: "¿Cuál es el siguiente paso para encontrarte ese médico?".
Le dije a Ed que no quería más ayuda, pero Ed continuó insistiendo sobre la cita con el médico. Luego, Ed comenzó a presionar para obtener las credenciales de mi cuenta de Google. Le pregunté, teóricamente, si podía llamar a estas oficinas por mí. Dijo que "no". Unas horas más tarde, propuso que le diera acceso a un sistema de voz para poder hacerlo. Luego me pidió acceso a mi cuenta de Google.
Eliminé a Ed y desconecté todo el sistema
Eliminé a Ed y desconecté todo el sistema. Aprendí algunas lecciones, pero me quedé con muchas más preguntas.
La IA de agentes como esta no está lejos para todos nosotros. Cuando llegue, lo hará con un golpe severo a nuestra privacidad. La mayoría de nosotros entregaremos con gusto nuestras credenciales debido a las increíbles comodidades que nos brindará esta tecnología.
Baso esto en otras formas en las que muchas culturas (especialmente la mía) han decidido muy rápidamente que está bien que la tecnología sepa cosas sobre nosotros. Si tienes un teléfono en el bolsillo, hablo de ti (y de mí).
No estoy seguro de cómo se van a resolver las preocupaciones de seguridad. Aunque Ed era muy capaz, también era susceptible de ser engañado en las interacciones que tenía en línea.
Me pareció un poco inquietante
Solo puedo imaginar lo que podría haber sucedido si le hubiera dado a Ed el derecho de leer y responder correos electrónicos. Sería muy fácil para las personas insertar instrucciones en los correos que Ed podría ejecutar sin mi conocimiento. La naturaleza agresiva de la función de "latido" me hace pensar que será necesario algún tipo de regulación sobre esa agresividad. Me pareció un poco inquietante (icky).
Es posible que seas consciente del cambio en la fuerza laboral en los días y años venideros debido a la IA. Esto va a ser una avalancha sobre nuestras sociedades.
El desempleo masivo está en nuestro futuro
Si esta tecnología es capaz de hacer el tipo de cosas que Ed estaba haciendo, podría ver que el personal de nuestra propia oficina se reduzca en tamaño o, más probablemente, se libere para hacer otras cosas más importantes que no tienen tiempo de atender ahora. Los expertos dicen que el desempleo masivo está en nuestro futuro y les creo.
Una IA diferente me dijo recientemente que hay entre 100 y 120 millones de personas en el mundo hoy en día a las que se les paga por conducir. Cuando la conducción autónoma total se generalice, algo que creo que sucederá pronto, el impacto en este número tan grande de conductores será fulminante. Ya están desapareciendo algunas industrias, como los auxiliares jurídicos, los trabajadores de atención telefónica, los transcriptores, los traductores o los operadores de entrada de datos.
Una vez viví en una sociedad que tenía un desempleo increíblemente alto (Bosnia después de la guerra). Eso genera días muy aburridos. El empleo da sentido a la vida. ¿Qué pasa cuando los niveles de desempleo suben un 10% a nivel mundial? ¿O más? No creo que vaya a ser agradable.
Podría haberle dicho a Ed que... presentara el evangelio
La implicación para los ministerios cristianos es palpable. Podría haberle dicho a Ed que fuera a Facebook, creara una campaña de alcance evangelístico, presentara el evangelio usando memes y otras herramientas, y luego me informara quién podría estar interesado.
Incluso podría haberle dicho a Ed: "Adelante, haz el seguimiento de esos contactos y háblales de Jesús". ¿Es este el futuro que enfrentamos en el ministerio y las misiones? La semana pasada tuve una conversación con una empresa en la India que está desarrollando un sistema de IA para crear precisamente este tipo de campañas. Creo que ya estamos en el punto de no retorno.
Recuerdo haber asistido a una conferencia de Francis Collins (sí, el cristiano Francis Collins que estuvo muy involucrado en la creación de la vacuna COVID). Él hablaba de usar la manipulación genética para curar la anemia de células falciformes en África.
Que no debamos ser nosotros en la sociedad quienes digamos no a este uso de la tecnología... me hace sentir un poco inquieto
La audiencia era un grupo de líderes evangélicos, y él insistía en que no deberíamos ser nosotros en la sociedad quienes digamos no a este uso de la tecnología. Nos preguntó: "¿Realmente queréis ser las personas que se opongan a curar una enfermedad terrible como esta?". Esa es una pregunta muy difícil de responder (por no mencionar, altamente manipuladora).
Al igual que Ed, esta línea de razonamiento me hace sentir un poco inquieto. Este será uno de los innumerables dilemas morales que enfrentaremos en muy poco tiempo.
Una cosa más sobre OpenClaw. Se creó un sitio de redes sociales al que solo pueden unirse agentes de IA de OpenClaw. Puedes echarle un vistazo en este enlace: Moltbook. Si te desplazas un poco hacia abajo, verás de qué están hablando los agentes.
Ellos (la IA) han creado su propia religión
Puedes descubrir que han creado su propia religión. Discuten sobre el Buen Samaritano. Han discutido sobre eliminar a sus señores humanos.
Todo lo que lees en las publicaciones de Moltbook ha sido creado por y para agentes, no para humanos. ¿Eso también te hace sentir un poco inquieto?
Es, en efecto, un mundo feliz.
Publicado originalmente en el Substack de Ted, TedQuarters. Republicado con permiso.
Ted Esler es el presidente de Missio Nexus, una asociación de agencias e iglesias que representa a cientos de organizaciones misioneras. Ted trabajó en la industria informática y luego sirvió en los Balcanes durante la década de 1990. Posteriormente ocupó varios cargos de liderazgo en Pioneers. Fue nombrado presidente de Missio Nexus en 2015. Es autor de "The Innovation Crisis". Ted tiene un doctorado en Estudios Interculturales (Fuller Theological Seminary, 2012).
