Cuando el equipo de TI del Parlamento Europeo desactiv\u00f3 discretamente las funciones de IA en los dispositivos del personal a principios de este a\u00f1o, la raz\u00f3n no era especulativa. Las funciones enviaban datos a la nube, y el equipo de seguridad del Parlamento decidi\u00f3 que ese era un riesgo que no pod\u00eda aceptar para una instituci\u00f3n que gestiona trabajos legislativos confidenciales.<\/p>\n
La historia apenas se registr\u00f3 fuera de Bruselas, pero captur\u00f3 algo con lo que la mayor\u00eda de los consumidores apenas empiezan a lidiar: los dispositivos de IA que entran en nuestros hogares, oficinas y escuelas no est\u00e1n todos construidos de la misma manera, y las diferencias ya no son triviales.<\/p>\n
Los rumores de que Apple lanzar\u00e1 los AirPods de pr\u00f3xima generaci\u00f3n, que supuestamente incluir\u00e1n c\u00e1maras, ahora se enfrentan a un escrutinio similar, incluso antes del lanzamiento. La compa\u00f1\u00eda ha dicho que el wearable no est\u00e1 dise\u00f1ado para grabar o fotografiar a los usuarios, pero el hecho de que consumidores y periodistas se hicieran la pregunta de inmediato indica d\u00f3nde se ubica ahora la base de confianza.<\/p>\n
Para los fundadores que desarrollan productos de IA para entornos cotidianos, este es un problema estrat\u00e9gico sin una respuesta sencilla: construye para la jurisdicci\u00f3n m\u00e1s estricta y reduce la velocidad, gastas m\u00e1s y ves c\u00f3mo los competidores m\u00e1s r\u00e1pidos te adelantan; Desarrolla lean, acepta el riesgo regulatorio y puede que te cierren las puertas de clientes empresariales, colegios o instituciones p\u00fablicas antes de que puedas llamar.<\/p>\n
Un pu\u00f1ado de empresas europeas ha decidido que el primer camino es el \u00fanico viable, y su razonamiento ofrece un marco m\u00e1s claro para evaluar qu\u00e9 dispositivos de IA realmente pertenecen a los espacios m\u00e1s personales de los usuarios, m\u00e1s que cualquier directiva que hayan compartido los reguladores.<\/p>\n
La elecci\u00f3n de la arquitectura ocurre antes que el producto.Deep Care, una empresa alemana de salud laboral cuyo coach de IA Isa es ahora utilizado por cerca de 50.000 personas en m\u00e1s de 280 organizaciones, incluidas empresas Fortune 500, dise\u00f1a su producto para trabajadores de oficina, ayud\u00e1ndoles a mejorar su postura y evitar problemas musculoesquel\u00e9ticos que conllevan las largas horas frente a una pantalla.<\/p>\n
En el contexto del creciente escrutinio de los dispositivos port\u00e1tiles que cruzan espacios personales sensibles, la decisi\u00f3n de dise\u00f1o definitiva se tom\u00f3 antes de redactar la mayor parte de su producto; La primera versi\u00f3n del equipo utiliz\u00f3 una aplicaci\u00f3n para tel\u00e9fono inteligente, con c\u00e1maras, y fue probada por 100 usuarios. Noventa y dos dijeron que no lo quer\u00edan.<\/p>\n
“Me dijeron, mirad, me vigilan entre ocho y diez horas al d\u00eda con un dispositivo conectado a internet y que tiene dos c\u00e1maras delante y tres c\u00e1maras detr\u00e1s”, explic\u00f3 Milad Geravand, CEO y cofundador de Deep Care. “Estoy poniendo mis contrase\u00f1as. Lo ve todo. Ve lo que llevo puesto, lo que hay detr\u00e1s de m\u00ed. Una soluci\u00f3n as\u00ed no tiene sentido.”<\/p>\n
Deep Care sustituy\u00f3 completamente el smartphone y la c\u00e1mara por un sensor capaz de mapear el contorno 3D de un usuario \u2014suficiente para seguir la postura y el movimiento\u2014 sin poder identificar qui\u00e9n es el usuario o qu\u00e9 hay en la habitaci\u00f3n detr\u00e1s de \u00e9l. El producto se ejecuta fuera de l\u00ednea, el an\u00e1lisis se realiza en el dispositivo y nada se env\u00eda a una nube, porque no hace falta que se env\u00ede.<\/p>\n
Esa decisi\u00f3n fue costosa. “Cambiar de una c\u00e1mara a este sensor espec\u00edfico cuesta mucho m\u00e1s en hardware, pero esa es la parte peque\u00f1a. La mayor inversi\u00f3n fue construir todo desde cero: recopilar nuestros propios datos, entrenar todos los modelos de IA desde cero y desarrollar todo el sistema nosotros mismos, sin atajos disponibles”, dice Geravend.<\/p>\n
“Ejecutar todo el c\u00f3digo localmente en el dispositivo para que la gente se sienta segura \u2013 eso nos cuesta m\u00e1s porque necesitamos un procesador mejor. Desarrollar una soluci\u00f3n que aporte ese valor y que te haga sentir seguro y protegido nos cuesta m\u00e1s. Por lo tanto, necesitamos tener ese coste en nuestros precios.”<\/p>\n
El enfoque m\u00e1s econ\u00f3mico que adoptan otros productos de IA para el entorno laboral, argumenta, es estructuralmente m\u00e1s barato por una raz\u00f3n espec\u00edfica: “Poner un sensor barato y no seguro en el producto y transmitir todo a la nube es una decisi\u00f3n empresarial sencilla; reduce los costos del hardware y abre la puerta a la venta de esos datos a terceros para obtener ingresos significativos”.<\/p>\n
Pero el precio que pagan los usuarios no se mide solo en euros. “O pagas con tu dinero, o pagas con tus datos”, argument\u00f3 Geravend, a\u00f1adiendo que aunque lo segundo parece libre, nunca lo es realmente. Una vez que los datos de un usuario est\u00e9n “disponibles”, inevitablemente ser\u00e1n utilizados por aseguradoras, anunciantes y interlocutores, por nombrar algunos.<\/p>\n
“Lo que empez\u00f3 como unos pocos euros en ahorros puede costarte mucho, mucho m\u00e1s, en silencio.”<\/p>\n
Datos de voz infantil: El argumento para el list\u00f3n m\u00e1s altoMientras tanto, el compa\u00f1ero de aprendizaje de IA para ni\u00f1os Buddy.ai tom\u00f3 una decisi\u00f3n arquitect\u00f3nica marcada por una limitaci\u00f3n diferente pero relacionada: COPPA, la ley estadounidense de privacidad infantil, trata las grabaciones de voz como informaci\u00f3n personal identificable. Enrutar el habla de los ni\u00f1os a trav\u00e9s de una API comercial de IA nunca fue una opci\u00f3n.<\/p>\n
“Procesamos todo en nuestra propia infraestructura, en tiempo real, y desaparece antes de que un padre haya tenido ni siquiera la oportunidad de pensar en el consentimiento”, dice Ivan Crewkov, fundador de la empresa. “\u00bfNos cost\u00f3 caro? S\u00ed. Construir y mantener infraestructura de nube privada no es barato, y a\u00f1ade una carga de desarrollo que los usuarios comerciales de API simplemente no tienen.”<\/p>\n
En cualquier caso, Crewkov recalc\u00f3 que volver\u00eda a tomar la misma decisi\u00f3n porque, aunque los modelos de fundaci\u00f3n avanzan r\u00e1pido, los reguladores no. “La barra de cumplimiento es la misma existe o no GPT-5”.<\/p>\n
Lo que no anticip\u00f3, sin embargo, fue c\u00f3mo esa limitaci\u00f3n se convirti\u00f3 en un activo competitivo. Como la COPPA restringe la recogida de datos de voz infantil, la mayor parte del campo trabaja con conjuntos de datos de unas pocas centenas de horas. Buddy.ai ha acumulado decenas de millas invaluables.<\/p>\n
Qu\u00e9 deber\u00edan preguntar realmente los compradoresAmbos fundadores, cuando se les pregunt\u00f3 qu\u00e9 deb\u00edan buscar los evaluadores, dieron respuestas m\u00e1s precisas que las que ofrecen actualmente la mayor\u00eda de las directrices p\u00fablicas.<\/p>\n
Para los equipos de compras, Geravand subray\u00f3 que la cuesti\u00f3n se resuelve en gran medida dentro de las empresas europeas, aunque no sea en el \u00e1mbito del consumidor. Los departamentos dedicados a la privacidad y seguridad de datos act\u00faan como guardianes: un proveedor que no puede satisfacerlos no llega a la adquisici\u00f3n.<\/p>\n
“Si hay alg\u00fan no, no acabas en adquisiciones. Por supuesto, si hay un s\u00ed en todas partes, entonces empiezas a hablar de precios y duraci\u00f3n del contrato.”<\/p>\n
Las soluciones basadas en c\u00e1maras, seg\u00fan su experiencia, casi nunca superan este l\u00edmite en los lugares de trabajo europeos porque el marco legal de la regi\u00f3n exige que cualquier \u00e1rea monitorizada por c\u00e1mara est\u00e9 claramente se\u00f1alizada, y la mayor\u00eda de los interlocutores no quieren que se inicie una conversaci\u00f3n as\u00ed con los consejos de empresa.<\/p>\n
Para los padres, el cuadro de Crewkov es m\u00e1s directo. “La \u00fanica pregunta que me gustar\u00eda que todos los padres se hicieran es: \u00bfpara qu\u00e9 es esto realmente? \u00bfQu\u00e9 ense\u00f1a? \u00bfCu\u00e1les son los objetivos de aprendizaje? Si la gente detr\u00e1s no puede responder tan claramente, eso te dice algo importante.”<\/p>\n
Los productos con los que m\u00e1s desconf\u00eda, dice, son compa\u00f1eros de IA de prop\u00f3sito general que se venden a ni\u00f1os sin un prop\u00f3sito educativo claro. “Los ni\u00f1os no necesitan un compa\u00f1ero IA. Necesitan a otros ni\u00f1os, juguetes y el mundo que les rodea.”<\/p>\n
Tambi\u00e9n se\u00f1ala una asimetr\u00eda a la que los interesados \u200b\u200ben todos los \u00e1mbitos deben prestar atenci\u00f3n: organizaciones de certificaci\u00f3n externas como kidSAFE, que auditan de forma independiente productos de IA infantil en EE. UU. UU., no operan en todas partes. Para los usuarios \u2014familias, en su caso\u2014 fuera de los mercados con esa infraestructura, el asesoramiento pr\u00e1ctico no es nada glamuroso.<\/p>\n
“Se que [leer la pol\u00edtica de privacidad] Suena obvio, pero la mayor\u00eda de la gente no lo hace, y para un producto que escucha la voz de tu hijo, merece la pena los diez minutos.<\/p>\n
La implicaci\u00f3n no se aplica solo a los tutores. De cara al futuro, los fundadores que buscan acceder a estos mercados deben saber que la privacidad va m\u00e1s all\u00e1 de sus usuarios objetivo, especialmente en el caso de herramientas educativas, de tutor\u00eda o de compa\u00f1\u00eda infantil. Cada vez m\u00e1s, se ejercer\u00e1 m\u00e1s escrutinio sobre los criterios de privacidad claramente definidos, especialmente cuando estos no est\u00e9n expl\u00edcitamente establecidos por la ley.<\/p>\n
Lo que los reguladores no pueden hacerLa arquitectura regulatoria europea, compuesta por el Reglamento General de Protecci\u00f3n de Datos (RGPD), la Ley de IA de la UE y normas sectoriales sobre la supervisi\u00f3n en el lugar de trabajo, ha establecido un m\u00ednimo que ha moldeado de manera medible lo que pueden esperar consumidores, empleados y responsables de compras. Pero los edificios fundadores m\u00e1s cercanos a esa planta coinciden en algo que la propia regulaci\u00f3n no puede ofrecer.<\/p>\n
La elecci\u00f3n de qu\u00e9 dispositivos de IA permite a los usuarios en sus hogares, equipos y habitaciones infantiles la toma finalmente ellos en el momento de la instalaci\u00f3n, antes de que cualquier regulador pueda intervenir.<\/p>\n
En este sentido, las preguntas que merece la pena plantearse no son complicadas: \u00bfqu\u00e9 necesita este dispositivo para funcionar? \u00bfConexi\u00f3n a Internet, una c\u00e1mara, aprendizaje persistente? \u00bfLos usuarios potenciales en una regi\u00f3n o mercado objetivo poseen estos recursos accesibles?<\/p>\n
Y, m\u00e1s conmovedor, \u00bfqu\u00e9 ocurre con los datos que recopila? \u00bfA d\u00f3nde va? \u00bfCu\u00e1l es el modelo de negocio de la empresa y depende de hacer algo con los datos de los usuarios que se opongan si se leyeran en la letra peque\u00f1a?<\/p>\n
No todas las respuestas tienen que ser perfectas, pero si una empresa no puede responderlas claramente, esa es la respuesta.<\/p>\n
Art\u00edculo escrito por Ana Sof\u00eda Herazo es 150 segundos. Version en castellano para El Nacional<\/p>\n","protected":false},"excerpt":{"rendered":"
Cuando el equipo de TI del Parlamento Europeo desactiv\u00f3 discretamente las funciones de IA en los dispositivos del personal a principios de este a\u00f1o, la raz\u00f3n no era especulativa. Las funciones enviaban datos a la nube, y el equipo de seguridad del Parlamento decidi\u00f3 que ese era un riesgo que no pod\u00eda aceptar para una […]<\/p>\n","protected":false},"author":59,"featured_media":79951,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4659,1307,1407,9246,332],"tags":[],"class_list":["post-79950","post","type-post","status-publish","format-standard","has-post-thumbnail","category-bruselas","category-ia","category-noticias","category-parlamento-europeo","category-venezuela"],"_links":{"self":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/posts\/79950","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/users\/59"}],"replies":[{"embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/comments?post=79950"}],"version-history":[{"count":0,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/posts\/79950\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/media\/79951"}],"wp:attachment":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/media?parent=79950"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/categories?post=79950"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/tags?post=79950"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}