La IA es todo oídos.
La innovadora tecnología de oficina que utiliza inteligencia artificial escucha sus conversaciones y corre el riesgo de filtrar secretos de la empresa y chismes en el lugar de trabajo, convirtiendo la herramienta en una molestia peligrosa.
Alex Bilzerian, investigador e ingeniero, recientemente llevó a X para explicar cómo Otter AI, una plataforma que utilizó para transcribir una reunión de Zoom con una empresa de capital riesgo, derramó accidentalmente una conversación confidencial.
Después de que terminó la reunión, Bilzerian recibió un correo electrónico con la transcripción de la llamada y se dio cuenta de que el asistente inteligente había seguido grabando la conversación incluso después de que Bilzerian cerrara la sesión. La transcripción, dijo, incluía “horas de sus (los inversores de la firma de capital de riesgo) conversaciones privadas posteriores, donde discutieron detalles íntimos y confidenciales sobre su negocio”.
Aunque los inversores “se disculparon profusamente”, Bilzerian decidió detener el acuerdo con su empresa, dijo. El Washington Post.
Podría ser una “suposición razonable” pensar que los asistentes de IA podrían detectar cuándo los participantes salen de una reunión y no enviar el resto de la transcripción, pero Hatim Rahman, profesor asociado de la Kellogg School of Management de la Universidad Northwestern, dijo a The Washington Post. que la tecnología no siempre es precisa.
Nutria IA respondió a la publicación X de Bilzerian para reiterar el compromiso de la empresa con la privacidad del usuario, explicando que “entienden las preocupaciones” y “están comprometidos a mantener su información privada y segura”.
“Los usuarios tienen control total sobre los permisos para compartir conversaciones y pueden cambiar, actualizar o detener los permisos para compartir de una conversación en cualquier momento”, escribió la compañía.
“Para este caso específico, los usuarios tienen la opción de no compartir transcripciones automáticamente con nadie o compartir automáticamente conversaciones solo con usuarios que comparten el mismo dominio de Workspace”.
Mientras tanto, OtterPilot, el asistente de inteligencia artificial que graba y transcribe reuniones, solo captura el audio de la llamada, por lo que no grabará nada de lo que diga un participante silenciado.
Las personas en la llamada también recibirán una notificación de que la reunión se está grabando y el asistente virtual aparecerá como asistente a la reunión, según The Washington Post.
La empresa también puede recopilar capturas de pantalla de las reuniones, incluidos textos u otros medios cargados por los participantes, que pueden compartirse con terceros que apoyan o publicitan con Otter o las autoridades en algunos casos.
Rob Bezdijan, propietario de una empresa de eventos de Salt Lake City, una vez perdió una oportunidad de acuerdo porque se negó a permitir que los inversores potenciales grabaran la reunión en Otter, y le dijo al Washington Post que desconfiaba de permitir que se registraran y omitieran sus ideas comerciales. ciertos detalles como resultado.
“Creo que es un gran problema porque la tecnología está proliferando muy rápidamente y la gente realmente no ha internalizado lo invasiva que es”, dijo al medio la investigadora y defensora de la privacidad Naomi Brockwell.
Brockwell advirtió que la IA aumenta el riesgo de que se filtren secretos empresariales y abre la posibilidad de demandas.
Will Andre, un consultor de ciberseguridad, advirtió contra el uso generalizado y desinformado de herramientas de inteligencia artificial en todas las empresas y le dijo a The Washington Post que en su antiguo puesto de marketing se encontró con una grabación en los servidores públicos de la empresa que contenía imágenes de sus jefes discutiendo sobre despidos.
“Las empresas deben ser conscientes de que personas de diferentes edades y capacidades tecnológicas van a utilizar estos productos”, añadió Rahman.
El software y los dispositivos impulsados por IA han sido objeto de un duro escrutinio últimamente, a medida que más empresas integran la tecnología en sus productos.
Apple creó Apple Intelligence, mientras que Google lanzó recientemente Gemini. El uso de inteligencia artificial en plataformas de redes sociales también ha provocado la ira entre los usuarios de plataformas como Meta, que entrena Meta AI utilizando datos de usuario disponibles públicamente.