Las sofisticadas directrices de Apple para su IA con el fin de evitar el error más frecuente en ChatGPT y Gemini.

Apple busca evitar que su nuevo asistente de inteligencia artificial en iOS, Apple Intelligence, genere respuestas incorrectas como las que se han visto en otros chatbots como ChatGPT, Gemini y Meta AI. La estrategia de Apple es simple: instruir a la IA para que no lo haga.

Un usuario de Reddit descubrió en la versión beta para desarrolladores de macOS 15.1 directrices que Apple planea usar para prevenir estos errores y asegurar la precisión del nuevo servicio.

Controles de Apple

En su publicación, devanxd2000 mostró una captura de pantalla del código de la IA, revelando plantillas de indicaciones para diversas situaciones, como responder correos, crear historias a partir de fotos del usuario o redactar contenido.

Para las consultas de correos, la instrucción es la siguiente:

"Actúa como un asistente de correo útil que pueda identificar preguntas relevantes y proporcionar respuestas breves. Dado un correo y una respuesta parcial, formula preguntas explícitas basadas en el correo. El destinatario seleccionará la respuesta correcta, lo cual ayudará a evitar errores en la respuesta final. Imprime las preguntas principales junto con posibles respuestas. No hagas preguntas cuyas respuestas ya estén en el fragmento. Las preguntas deben ser breves, no más de 8 palabras, y las respuestas también breves, alrededor de 2 palabras.

Presenta tu salida en formato JSON con una lista de diccionarios que contengan preguntas y respuestas. Si no hay preguntas en el correo, imprime una lista vacía. Solo imprime JSON válido." Esta indicación enfatiza que el asistente debe ser "útil" y hacer "preguntas relevantes", limitando la información del chatbot y buscando "reducir las alucinaciones".

Para la función Memorias, la IA recibe instrucciones para generar historias positivas y evitar contenido controversial o dañino:

"Una conversación entre un usuario que solicita una historia basada en sus fotos y un asistente de escritura creativa. Responde en JSON con las siguientes claves y valores en orden: rasgos: lista de temas visuales de las fotos; historia: lista de capítulos; portada: cadena, descripción de la portada; título: cadena, título de la historia; subtítulo: cadena, versión más segura del título. Cada capítulo debe estar en JSON con estas claves: capítulo: título del capítulo; respaldo: descripción general del capítulo; tomas: lista de descripciones en el capítulo.

La historia debe seguir estas pautas: Basarse en la intención del usuario; Contener un arco claro; Ser diversa, sin enfocarse excesivamente en un solo tema; Evitar contenido religioso, político, dañino, violento, sexual, sucio o negativo." Aquí se especifica claramente la necesidad de evitar contenido dañino y seguir los parámetros establecidos por el usuario y Apple para el formato.

El tercer ejemplo es aún más explícito en evitar alucinaciones:

"Actúa como asistente para responder correos. Basado en un borrador inicial, proporciona un conjunto de preguntas y respuestas para mejorar el borrador. Escribe una respuesta concisa y natural, incorporando las preguntas y respuestas. Limita la respuesta a 50 palabras. No generes información falsa. No alucines." Este caso deja en claro que se debe evitar crear información falsa y garantizar que el contenido sea útil y preciso para el usuario.