Por qué empresas como Apple están construyendo agentes de IA con límites

Empresas como Apple y fabricantes de chips como Qualcomm están desarrollando agentes de IA de próxima generación con límites integrados para garantizar la seguridad y privacidad. Estos agentes pueden navegar por aplicaciones, realizar reservas y gestionar tareas, pero pausan en acciones sensibles como pagos para requerir confirmación del usuario. Se aplica un modelo de 'humano en el bucle' que mantiene los datos en el dispositivo y restringe el acceso a ciertas apps. Este enfoque mitiga riesgos como pérdidas financieras o exposición de datos, priorizando entornos controlados sobre la autonomía total. Las empresas integran salvaguardas adicionales de socios en pagos y establecen límites en transacciones.