Tememos a la IA porque «las grandes tecnologías son el máximo depredador», dice un ejecutivo

«¿Sabes por qué estás tan asustado?» Ígor Jablokov, pionero de la IA, preguntó al público suerteLa iniciativa del CEO en Washington DC durante el debate sobre el desarrollo responsable de la IA. «Es porque las grandes empresas tecnológicas son el principal depredador».

Jablokov descubrió estas empresas en una llamada telefónica. suerte, están utilizando sus posiciones de poder, ya sea financiero o político a través del lobby, para fortalecer aún más sus posiciones en el mercado y excluir a nuevos participantes. El temor entre algunas de estas empresas, afirma, es que la IA revolucione la industria y relegue a algunas de ellas a la próxima generación de empresas tecnológicas de ayer, como AOL, Motorola o Yahoo.

«Las grandes empresas tecnológicas están entrando en pánico ahora que los mazos serán redirigidos hacia ellas», dijo Jablokov. «Eso le ha pasado a todo el mundo en el pasado».

Todo este poder concentrado también perjudica a los consumidores. «En última instancia, sólo existe una fuente de tecnología», afirmó. suerte. «No hay control sobre cuántos anuncios ven, la calidad del producto se deteriora. Todo son cosas monopolísticas, y los monopolios no son saludables porque no hay competencia que haga subir los precios y bajar las opciones.’

El martes, el día de los comentarios de Jablokov, la Comisión Federal de Comercio publicó un informe que describe las muchas ansiedades que sienten los consumidores acerca de la IA.

“¿En resumen?”, dice el informe. «Los consumidores están expresando preocupaciones sobre los daños relacionados con la IA, y sus preocupaciones abarcan el ciclo de vida de la tecnología, desde cómo se construye hasta cómo la aplican terceros en el mundo real».

Otra preocupación creciente ha sido el rápido ritmo de cambio en la industria. Algunas de las empresas de tecnología más establecidas están avanzando hacia grandes modelos de lenguaje e inteligencia artificial. Microsoft invirtió alrededor de 10 mil millones de dólares en OpenAI, que fabrica ChatGPT, Meta lanzó al público su último modelo de lenguaje grande, Llama2, de forma gratuita, y Amazon invirtió 4 mil millones de dólares en la startup de inteligencia artificial Anthropic la semana pasada. Gran parte del malestar en torno a la IA surge de la preocupación de que estas grandes empresas estén impulsando la tecnología sin considerar adecuadamente las posibles consecuencias negativas. Incluso Elon Musk, uno de los mayores defensores de la IA, dijo que la IA podría acabar con la civilización humana y pidió una moratoria sobre el desarrollo de la IA más sofisticada, algo que las empresas rechazaron por completo.

Jablokov dice que la creciente preocupación significa que los desarrolladores pasarán a desarrollar IA que brinde a los usuarios más control, para que puedan garantizar que la IA se use de una manera que se alinee con sus valores. «Predigo que todo volverá a la seguridad, volverá al contenido confiable», dijo Jablokov en la conferencia.

En 2011, la primera empresa de Jablokov, Yap, especializada en software de reconocimiento de voz, se convirtió en la primera adquisición de Amazon relacionada con la inteligencia artificial y más tarde se convertiría en el esqueleto para construir la asistente de voz de Amazon, Alexa. Casualmente, el nombre de la hermana de Jablokov es Alexa, dice. Sus prolíficos hábitos de enviar mensajes de texto inspiraron a Jabkolov y su hermano Victor a intentar desarrollar una aplicación de reconocimiento de voz que pudiera convertir la voz en texto, Inc.

Incluso antes de Yap, Jablokov trabajó en las primeras versiones de IA en IBM. Mientras estuvo allí, se centró en una versión temprana de Watson, a la que llamó «cosas de IA temprana para bebés» en una entrevista con Semafor.

Jablokov es actualmente el director ejecutivo de la startup de inteligencia artificial Pryon, que vale alrededor de 410 millones de dólares, según Pitchbook. El nombre de la empresa, Pryon, es un guiño al antiguo nombre en clave de Amazon para el proyecto que se convertiría en Alexa. Un extraño giro del destino, teniendo en cuenta que la primera empresa de Jablokov se convirtió en la base de una gran empresa tecnológica.

Sus comentarios en suerteNo fue la primera vez que la iniciativa del CEO planteó preocupaciones sobre la tecnología convencional. En la misma entrevista de Semafor, Jablokov dijo que las grandes empresas trabajarían con los reguladores para dificultar la entrada de nuevas empresas al mercado. En lo que respecta a la regulación de la IA, los funcionarios gubernamentales han dicho que quieren actuar rápidamente para contener la tecnología en primer lugar, como no lo hicieron con las redes sociales. Al mismo tiempo, los críticos han acusado a los legisladores de ser demasiado amigables con las empresas que quieren regular.

El apoyo público a la regulación de las Big Tech ha aumentado en los últimos años. Una encuesta de 2022 realizada por el Consejo de Asuntos Públicos mostró que la tecnología era la segunda industria menos regulada por los estadounidenses, sólo detrás de las empresas farmacéuticas.

La caída en desgracia de la tecnología solo se ha acelerado desde las elecciones presidenciales estadounidenses de 2016, cuando las mayores plataformas de redes sociales fueron acusadas de hacer la vista gorda ante la difusión de información errónea. Marcó un cambio en la visión que el público general tenía de la industria. Entre 2012 y 2017, la tecnología fue calificada como la industria más confiable, según una encuesta del Consejo de Asuntos Públicos. Para 2018 había caído al cuarto lugar, y para 2021 había caído al sexto lugar, donde queda detrás de los grandes bancos y del sector financiero. Otra encuesta, esta del Instituto Brookings, de tendencia izquierdista, mostró que las tres principales instituciones en las que los estadounidenses han perdido más confianza entre 2018 y 2021 fueron las grandes empresas tecnológicas: Facebook, Amazon y Google, y las tres están en carrera. Desarrollar IA e incorporarla a sus productos.