El poder del aprendizaje transferido en NLP: Construye un modelo de clasificación de texto usando BERT

Rate this content
Bookmark

El dominio del Procesamiento del Lenguaje Natural ha visto una tremenda cantidad de investigación e innovación en los últimos años para abordar el problema de implementar soluciones de aprendizaje automático e IA de alta calidad utilizando texto natural. La clasificación de texto es una de las áreas más importantes en todos los sectores, como finanzas, medios de comunicación, desarrollo de productos, etc. Construir un sistema de clasificación de texto desde cero para cada caso de uso puede ser desafiante en términos de costos y recursos, considerando que se necesita una buena cantidad de datos para comenzar el entrenamiento.


Aquí es donde entra en juego el concepto de aprendizaje transferido. Utilizar algunos de los modelos que han sido pre-entrenados en grandes cantidades de datos y ajustarlos según el problema en cuestión es la nueva forma de implementar soluciones de aprendizaje automático de manera eficiente sin pasar meses en la limpieza de datos.


Esta charla destacará las formas de implementar BERT, recientemente lanzado, y ajustar el modelo base para construir un modelo de clasificación de texto eficiente. Se requiere un conocimiento básico de Python.

Jayeeta Putatunda
Jayeeta Putatunda
35 min
02 Jul, 2021

Comments

Sign in or register to post your comment.

Video Summary and Transcription

El aprendizaje transferido es una técnica utilizada cuando hay escasez de datos etiquetados, donde se reutiliza un modelo pre-entrenado para una nueva tarea. BERT es un modelo bidireccional entrenado en texto plano que considera el contexto de los tokens durante el entrenamiento. Comprender el modelado NLP de referencia y abordar desafíos como palabras basadas en contexto y errores de ortografía son cruciales. BERT tiene aplicaciones en múltiples escenarios de resolución de problemas, pero puede no funcionar bien en etiquetas de clasificación estrictas o IA conversacional. El entrenamiento de BERT implica la predicción de la siguiente oración y el modelado masivo del lenguaje para manejar la comprensión contextual y el mapeo coherente.

1. Introducción a la Transferencia de Aprendizaje y NLP

Short description:

¡Hola a todos! Bienvenidos a esta sesión de Transferencia de Aprendizaje con Burt. Hoy aprenderemos sobre Transferencia de Aprendizaje y NLP. NLP es una subrama de la lingüística y la IA. Discutiremos sus desafíos y cómo se puede utilizar para la clasificación de texto.

¡Hola a todos y bienvenidos a esta sesión de Transferencia de Aprendizaje con Burt! Estoy muy emocionado de que todos estén aquí y se unan a mí en esta sesión. Así que veamos qué aprenderemos sobre Transferencia de Aprendizaje y Burt hoy.

Antes de comenzar, una breve introducción sobre mí. Hola, mi nombre es Jayita Pudukonda. Trabajo como Científico de Datos Senior en Intelliint US Inc. Estamos ubicados en la ciudad de Nueva York. Y para darles una visión general, Intelliint es una empresa de servicios profesionales impulsada por el cliente. Nos especializamos en soluciones de software y tecnología a medida. Trabajamos con muchas empresas de análisis de datos y basadas en IA y desarrollamos algunas de nuestras herramientas y software en torno a esos estados. Así que pueden contactarme en Twitter y LinkedIn si tienen alguna pregunta sobre la sesión más adelante y podemos discutir al respecto.

Genial. Para la sesión de hoy, vamos a hablar durante unos 20 minutos y luego tendremos algunas preguntas y respuestas. También tengo algo de código que puedo compartir en mi GitHub. Así que contáctenme si quieren echar un vistazo más tarde después de la sesión. Ahora viene la parte emocionante, digo esto porque el NLP es difícil y ustedes dirían por qué. Ahora miren esta imagen. ¿Cuál es la primera inferencia que se les viene a la mente? Sé que los seres humanos podemos hacer conexiones y referencias geniales. Esta es una tarea muy trivial para nosotros. Pero si lo piensan desde la perspectiva de un programa de computadora, esto es un desafío muy desalentador para entender esta complejidad del idioma inglés. Entonces, aquí en la imagen dice: Soy un gran fanático del Metal. Nosotros, como humanos, sabríamos que, okay, el ventilador de metal es como, ya saben, una componente eléctrica personificada y dice que, okay, soy un ventilador de metal, pero también puede referirse a que eres un gran fanático del metal, ya saben, de la música. Entonces, ¿cómo diferencia la computadora entre estos dos significados del mismo término? Hay ambigüedad, sinonimia, correferencia. Y, por supuesto, las reglas sintácticas de la literatura inglesa, eso dificulta o hace que sea una tarea más desalentadora para un programa de computadora. Así que para la agenda de hoy, simplemente repasaremos qué es NLP, cómo y dónde se utiliza, cómo se puede utilizar la transferencia de aprendizaje. Y veremos un caso simple de utilizar Burt para un modelo de clasificación de texto. Así que empecemos de inmediato. Para el NLP, siento que esta imagen lo describe muy bien. Es una subrama de la lingüística, la inteligencia artificial.

2. Introducción a las Aplicaciones y Técnicas de NLP

Short description:

Hay ciencias de la computación y también en ingeniería de la información. NLP ha tenido un crecimiento exponencial en los últimos dos años. Se utiliza en la traducción automática, chatbots, clasificación de intenciones, generación de texto, modelado de temas, agrupamiento y clasificación de texto. Para trabajar con NLP, necesitamos manejar espacios adicionales, tokenizar correctamente el texto, realizar corrección ortográfica y utilizar mapeo de contracciones.

Hay ciencias de la computación y también en ingeniería de la información. Básicamente ayuda a todas las máquinas a comprender y, ya sabes, comunicarse de ida y vuelta con los seres humanos en un discurso fluido sin perder el contexto o las referencias. Y si ves que NLP ha tenido un crecimiento exponencial en los últimos, diría dos, dos, años, como los enormes modelos en los que Google, OpenAI y Vidya han estado trabajando y lanzando que tienen una cantidad enorme de parámetros. Así que en mayo de 2020, OpenAI presentó un modelo de 175 mil millones de parámetros, lo cual es, puedes entender cuánto texto se ha procesado en ese modelo y cuánto trabajo puede hacer con tanta precisión.

Entonces, ¿dónde se utiliza NLP? Sé que la mayoría de ustedes está familiarizado con esto, pero solo quería dar una descripción rápida de dónde siento que se utiliza más. Y he trabajado en estas áreas de manera práctica. Definitivamente, la traducción automática, como texto a audio, audio a texto, hay chatbots, construcción de árboles de conocimiento, clasificación de intenciones, también hay generación de texto natural. Estoy seguro de que cuando usas Gmail, has visto las sugerencias que aparecen cuando estás escribiendo un correo electrónico, que te dicen que estas dos palabras siguientes, creo que serían buenas para completar la oración que estás intentando escribir. Esas son como, ya sabes, sugerencias de completado de texto que recibes. También se utiliza mucho en el modelado de temas, agrupamiento, comprensión con el contexto completo o qué tipo de ideas se pueden generar a partir de una gran cantidad de texto. Y también en la clasificación de texto, que es, ya sabes, ¿quieres hacer un análisis de sentimiento? ¿Cómo entiendes cuál es la idea general, por ejemplo, en las reseñas de Yelp o en las reseñas de productos de Amazon? Así que esto tiene muchas implicaciones y buenas aplicaciones en problemas de NLP.

Entonces, ¿cómo lo hacemos? Sé que esto puede sonar subyacente, pero es muy importante que lo hagamos en todo tipo de casos de negocio o problemas empresariales que estamos tratando de resolver utilizando NLP, así que solo una idea rápida. Necesitamos manejar cuando tenemos, digamos, todo nuestro texto, asegurarnos de manejar espacios adicionales. Luego también necesitamos cuidar cómo tokenizamos nuestro texto. La tokenización solo usando espacios es la norma tradicional, pero también necesitamos tener en cuenta casos de uso, como por ejemplo, el nombre completo de Estados Unidos de América, si lo tokenizamos solo por los espacios, a veces puede suceder que no tenga sentido en el contexto en el que estamos tratando de trabajar, ¿verdad? Entonces necesitamos mantener toda la frase `Estados Unidos de América` como una sola frase, en lugar de tokenizarla por palabra, para que la extracción de información funcione mucho mejor que si se tokeniza por palabra. El siguiente paso sería la corrección ortográfica. Me refiero aquí directamente a una herramienta muy buena que Peter Norvig de Google creó. Es un corrector ortográfico. Básicamente, la idea es comparar la distancia entre múltiples palabras. Y ver, okay. ¿Tiene sentido esta ortografía y qué tan cerca está de una ortografía similar o un significado de palabra similar que existe en el espacio vectorial de todo el corpus de NLP? Entonces puedes ver aquí que cuando paso la ortografía incorrecta con una sola L, el valor devuelto sería una ortografía con una doble L y también para corregido con la K no con la K y el valor final sería corregido con una C. Esto realmente puede ayudar a asegurarnos de que nuestros datos estén limpios. Y como dicen, en NLP es como basura entra y basura sale. Perdón por eso, basura entra y basura sale. Así que debemos asegurarnos de que los datos limpios tengan sentido con un sentido gramatical. Sentido sintáctico y también significado semántico. El siguiente paso sería el mapeo de contracciones. Puede parecer que no es necesario hacerlo.

QnA

Check out more articles and videos

We constantly think of articles and videos that might spark Git people interest / skill us up or help building a stellar career

Charlie Gerard's Career Advice: Be intentional about how you spend your time and effort
6 min
Charlie Gerard's Career Advice: Be intentional about how you spend your time and effort
Featured Article
Charlie Gerard
Jan Tomes
2 authors
When it comes to career, Charlie has one trick: to focus. But that doesn’t mean that you shouldn’t try different things — currently a senior front-end developer at Netlify, she is also a sought-after speaker, mentor, and a machine learning trailblazer of the JavaScript universe. "Experiment with things, but build expertise in a specific area," she advises.

What led you to software engineering?My background is in digital marketing, so I started my career as a project manager in advertising agencies. After a couple of years of doing that, I realized that I wasn't learning and growing as much as I wanted to. I was interested in learning more about building websites, so I quit my job and signed up for an intensive coding boot camp called General Assembly. I absolutely loved it and started my career in tech from there.
 What is the most impactful thing you ever did to boost your career?I think it might be public speaking. Going on stage to share knowledge about things I learned while building my side projects gave me the opportunity to meet a lot of people in the industry, learn a ton from watching other people's talks and, for lack of better words, build a personal brand.
 What would be your three tips for engineers to level up their career?Practice your communication skills. I can't stress enough how important it is to be able to explain things in a way anyone can understand, but also communicate in a way that's inclusive and creates an environment where team members feel safe and welcome to contribute ideas, ask questions, and give feedback. In addition, build some expertise in a specific area. I'm a huge fan of learning and experimenting with lots of technologies but as you grow in your career, there comes a time where you need to pick an area to focus on to build more profound knowledge. This could be in a specific language like JavaScript or Python or in a practice like accessibility or web performance. It doesn't mean you shouldn't keep in touch with anything else that's going on in the industry, but it means that you focus on an area you want to have more expertise in. If you could be the "go-to" person for something, what would you want it to be? 
 And lastly, be intentional about how you spend your time and effort. Saying yes to everything isn't always helpful if it doesn't serve your goals. No matter the job, there are always projects and tasks that will help you reach your goals and some that won't. If you can, try to focus on the tasks that will grow the skills you want to grow or help you get the next job you'd like to have.
 What are you working on right now?Recently I've taken a pretty big break from side projects, but the next one I'd like to work on is a prototype of a tool that would allow hands-free coding using gaze detection. 
 Do you have some rituals that keep you focused and goal-oriented?Usually, when I come up with a side project idea I'm really excited about, that excitement is enough to keep me motivated. That's why I tend to avoid spending time on things I'm not genuinely interested in. Otherwise, breaking down projects into smaller chunks allows me to fit them better in my schedule. I make sure to take enough breaks, so I maintain a certain level of energy and motivation to finish what I have in mind.
 You wrote a book called Practical Machine Learning in JavaScript. What got you so excited about the connection between JavaScript and ML?The release of TensorFlow.js opened up the world of ML to frontend devs, and this is what really got me excited. I had machine learning on my list of things I wanted to learn for a few years, but I didn't start looking into it before because I knew I'd have to learn another language as well, like Python, for example. As soon as I realized it was now available in JS, that removed a big barrier and made it a lot more approachable. Considering that you can use JavaScript to build lots of different applications, including augmented reality, virtual reality, and IoT, and combine them with machine learning as well as some fun web APIs felt super exciting to me.


Where do you see the fields going together in the future, near or far? I'd love to see more AI-powered web applications in the future, especially as machine learning models get smaller and more performant. However, it seems like the adoption of ML in JS is still rather low. Considering the amount of content we post online, there could be great opportunities to build tools that assist you in writing blog posts or that can automatically edit podcasts and videos. There are lots of tasks we do that feel cumbersome that could be made a bit easier with the help of machine learning.
 You are a frequent conference speaker. You have your own blog and even a newsletter. What made you start with content creation?I realized that I love learning new things because I love teaching. I think that if I kept what I know to myself, it would be pretty boring. If I'm excited about something, I want to share the knowledge I gained, and I'd like other people to feel the same excitement I feel. That's definitely what motivated me to start creating content.
 How has content affected your career?I don't track any metrics on my blog or likes and follows on Twitter, so I don't know what created different opportunities. Creating content to share something you built improves the chances of people stumbling upon it and learning more about you and what you like to do, but this is not something that's guaranteed. I think over time, I accumulated enough projects, blog posts, and conference talks that some conferences now invite me, so I don't always apply anymore. I sometimes get invited on podcasts and asked if I want to create video content and things like that. Having a backlog of content helps people better understand who you are and quickly decide if you're the right person for an opportunity.What pieces of your work are you most proud of?It is probably that I've managed to develop a mindset where I set myself hard challenges on my side project, and I'm not scared to fail and push the boundaries of what I think is possible. I don't prefer a particular project, it's more around the creative thinking I've developed over the years that I believe has become a big strength of mine.***Follow Charlie on Twitter
TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
ML conf EU 2020ML conf EU 2020
41 min
TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
Descubre cómo aprovechar el aprendizaje automático en JavaScript utilizando TensorFlow.js en el navegador y más allá en esta charla rápida. Inspírate a través de un montón de prototipos creativos que empujan los límites de lo que es posible en el navegador web moderno (las cosas han avanzado mucho) y luego da tus primeros pasos con el aprendizaje automático en minutos. Al final de la charla, todos entenderán cómo reconocer un objeto de su elección que luego se puede utilizar de cualquier manera creativa que puedas imaginar. Se asume familiaridad con JavaScript, pero no se requiere experiencia en aprendizaje automático. ¡Ven y da tus primeros pasos con TensorFlow.js!
Uso de MediaPipe para Crear Aplicaciones de Aprendizaje Automático Multiplataforma con React
React Advanced Conference 2021React Advanced Conference 2021
21 min
Uso de MediaPipe para Crear Aplicaciones de Aprendizaje Automático Multiplataforma con React
Top Content
Esta charla ofrece una introducción sobre MediaPipe, que es una solución de Aprendizaje Automático de código abierto que permite ejecutar modelos de aprendizaje automático en dispositivos de baja potencia y ayuda a integrar los modelos con aplicaciones móviles. Ofrece a estos profesionales creativos una gran cantidad de herramientas dinámicas y utiliza el Aprendizaje Automático de una manera realmente fácil para crear aplicaciones poderosas e intuitivas sin tener mucho / ningún conocimiento de aprendizaje automático de antemano. Así que podemos ver cómo MediaPipe puede ser integrado con React. Proporcionando un fácil acceso para incluir casos de uso de aprendizaje automático para construir aplicaciones web con React.
TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
JSNation Live 2021JSNation Live 2021
39 min
TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
Descubre cómo aprovechar el aprendizaje automático en JavaScript utilizando TensorFlow.js en el navegador y más allá en esta charla rápida. Inspírate a través de un montón de prototipos creativos que empujan los límites de lo que es posible en el navegador web moderno (las cosas han avanzado mucho) y luego da tus primeros pasos con el aprendizaje automático en minutos. Al final de la charla, todos entenderán cómo reconocer un objeto de su elección que luego se puede utilizar de cualquier manera creativa que puedas imaginar. Se asume familiaridad con JavaScript, pero no se requiere experiencia en aprendizaje automático. ¡Ven y da tus primeros pasos con TensorFlow.js!
Una introducción al aprendizaje por transferencia en NLP y HuggingFace
ML conf EU 2020ML conf EU 2020
32 min
Una introducción al aprendizaje por transferencia en NLP y HuggingFace
En esta charla comenzaré presentando los avances recientes en NLP que resultaron de la combinación de esquemas de aprendizaje por transferencia y arquitecturas de Transformer. La segunda parte de la charla estará dedicada a una introducción de las herramientas de código abierto lanzadas por HuggingFace, en particular nuestras bibliotecas Transformers, Tokenizers y Datasets y nuestros modelos.
Observabilidad con diagnostics_channel y AsyncLocalStorage
Node Congress 2023Node Congress 2023
21 min
Observabilidad con diagnostics_channel y AsyncLocalStorage
Los productos de trazado modernos funcionan combinando diagnostics_channel con AsyncLocalStorage. Construyamos juntos un trazador para ver cómo funciona y qué puedes hacer para hacer que tus aplicaciones sean más observables.

Workshops on related topic

Aprovechando LLMs para Construir Experiencias de IA Intuitivas con JavaScript
JSNation 2024JSNation 2024
108 min
Aprovechando LLMs para Construir Experiencias de IA Intuitivas con JavaScript
Workshop
Roy Derks
Shivay Lamba
2 authors
Hoy en día, todos los desarrolladores están utilizando LLMs en diferentes formas y variantes, desde ChatGPT hasta asistentes de código como GitHub CoPilot. Siguiendo esto, muchos productos han introducido capacidades de IA integradas, y en este masterclass haremos que los LLMs sean comprensibles para los desarrolladores web. Y nos adentraremos en la codificación de tu propia aplicación impulsada por IA. No se necesita experiencia previa en trabajar con LLMs o aprendizaje automático. En su lugar, utilizaremos tecnologías web como JavaScript, React que ya conoces y amas, al mismo tiempo que aprendemos sobre algunas nuevas bibliotecas como OpenAI, Transformers.js
¿Pueden los LLM aprender? Personalicemos un LLM para chatear con tus propios datos
C3 Dev Festival 2024C3 Dev Festival 2024
48 min
¿Pueden los LLM aprender? Personalicemos un LLM para chatear con tus propios datos
WorkshopFree
Andreia Ocanoaia
Andreia Ocanoaia
Sientes las limitaciones de los LLMs? Pueden ser creativos, pero a veces carecen de precisión o se basan en información desactualizada. En esta masterclass, desglosaremos el proceso de construir y desplegar fácilmente un sistema de Generación con Recuperación Mejorada. Este enfoque te permite aprovechar el poder de los LLMs con el beneficio adicional de precisión factual e información actualizada.
Deja que la IA sea tu Documentación
JSNation 2024JSNation 2024
69 min
Deja que la IA sea tu Documentación
Workshop
Jesse Hall
Jesse Hall
Únete a nuestro masterclass dinámico para crear un portal de documentación impulsado por IA. Aprende a integrar ChatGPT de OpenAI con Next.js 14, Tailwind CSS y tecnología de vanguardia para ofrecer soluciones de código e resúmenes instantáneos. Esta sesión práctica te equipará con el conocimiento para revolucionar la forma en que los usuarios interactúan con la documentación, convirtiendo las búsquedas tediosas en descubrimientos eficientes e inteligentes.
Aspectos destacados:
- Experiencia práctica en la creación de un sitio de documentación impulsado por IA.- Comprensión de la integración de la IA en las experiencias de usuario.- Habilidades prácticas con las últimas tecnologías de desarrollo web.- Estrategias para implementar y mantener recursos de documentación inteligente.
Tabla de contenidos:- Introducción a la IA en la documentación- Configuración del entorno- Construcción de la estructura de documentación- Integración de ChatGPT para documentación interactiva
Prácticas con TensorFlow.js
ML conf EU 2020ML conf EU 2020
160 min
Prácticas con TensorFlow.js
Workshop
Jason Mayes
Jason Mayes
Ven y descubre nuestro masterclass que te guiará a través de 3 recorridos comunes al usar TensorFlow.js. Comenzaremos demostrando cómo usar uno de nuestros modelos predefinidos, clases de JS muy fáciles de usar para trabajar rápidamente con ML. Luego veremos cómo volver a entrenar uno de estos modelos en minutos utilizando el aprendizaje por transferencia en el navegador a través de Teachable Machine y cómo se puede usar en tu propio sitio web personalizado. Finalmente, terminaremos con un hola mundo escribiendo tu propio código de modelo desde cero para hacer una regresión lineal simple y predecir los precios ficticios de las casas en función de sus metros cuadrados.
La Guía del Autoestopista de la Galaxia de Ingeniería de Aprendizaje Automático
ML conf EU 2020ML conf EU 2020
112 min
La Guía del Autoestopista de la Galaxia de Ingeniería de Aprendizaje Automático
Workshop
Alyona Galyeva
Alyona Galyeva
¿Eres un Ingeniero de Software al que se le asignó la tarea de implementar un modelo de aprendizaje automático o aprendizaje profundo por primera vez en tu vida? ¿Te preguntas qué pasos seguir y cómo se diferencia el software impulsado por IA del software tradicional? Entonces este es el masterclass adecuado al que asistir.
Internet ofrece miles de artículos y cursos gratuitos que muestran lo fácil que es entrenar e implementar un modelo de IA simple. Al mismo tiempo, en la realidad es difícil integrar un modelo real en la infraestructura actual, depurarlo, probarlo, implementarlo y monitorearlo correctamente. En este masterclass, te guiaré a través de este proceso compartiendo consejos, trucos y herramientas de código abierto favoritas que te facilitarán mucho la vida. Así que al final del masterclass, sabrás por dónde empezar tu viaje de implementación, qué herramientas utilizar y qué preguntas hacer.
Introducción al Aprendizaje Automático en la Nube
ML conf EU 2020ML conf EU 2020
146 min
Introducción al Aprendizaje Automático en la Nube
Workshop
Dmitry Soshnikov
Dmitry Soshnikov
Este masterclass será tanto una introducción suave al Aprendizaje Automático, como un ejercicio práctico de uso de la nube para entrenar modelos de aprendizaje automático simples y no tan simples. Comenzaremos utilizando ML Automático para entrenar el modelo para predecir la supervivencia en el Titanic, y luego pasaremos a tareas de aprendizaje automático más complejas como la optimización de hiperparámetros y la programación de series de experimentos en el clúster de cómputo. Finalmente, mostraré cómo Azure Machine Learning se puede utilizar para generar pinturas artificiales utilizando Redes Generativas Adversarias, y cómo entrenar un modelo de preguntas y respuestas de lenguaje en documentos de COVID para responder preguntas relacionadas con COVID.