Ampliando la adopción de IA con AutoML

Rate this content
Bookmark

La adopción de IA se ha visto frenada por los desafíos involucrados en obtener modelos de rendimiento, que requieren experiencia y esfuerzo significativos, y el número limitado de profesionales con experiencia en aprendizaje automático. El aprendizaje automático automatizado (AutoML) elimina los pasos rutinarios en el flujo de trabajo de aprendizaje automático, lo que permite a los expertos en el dominio sin experiencia en aprendizaje automático construir modelos iniciales sólidos y permite a los profesionales experimentados enfocarse en la optimización manual adicional del modelo. Esta charla describe el nivel de automatización disponible para los diversos pasos y demuestra AutoML con un clasificador de actividades humanas basado en datos de sensores de acelerómetro.

9 min
02 Jul, 2021

Video Summary and Transcription

AutoML simplifica la complejidad de construir modelos de aprendizaje automático, permitiendo a los ingenieros enfocarse en los problemas y aplicaciones difíciles. Permite resolver problemas que de otra manera no serían factibles. El enfoque de AutoML de tres pasos de MathWorks incluye scattering wavelet para la extracción de características. AutoML también permite la selección de características y la optimización del modelo para sistemas integrados con limitaciones de memoria y energía. MATLAB puede traducir a código de bajo nivel para implementación.

Available in English

1. Introduction to AutomL and its Benefits

Short description:

Hola a todos, mi nombre es Bernhard Suhm, soy gerente de producto de aprendizaje automático con MathWorks. Hoy me enfocaré en AutomL, una automatización que elimina el esfuerzo iterativo rutinario y la mayor parte de la ciencia en la construcción de modelos de aprendizaje automático. El objetivo de AutomL es simplificar la complejidad de construir modelos de aprendizaje automático, liberando a los ingenieros para que se centren en los problemas difíciles de aprendizaje automático y en sus aplicaciones. AutomL te permite resolver problemas que de otra manera no serían factibles, como casos de uso en los que necesitas construir muchos modelos diferentes que representen diferentes variaciones o etapas ambientales diferentes. En MathWorks hemos desarrollado un enfoque de AutomL de tres pasos que incluye el scattering de wavelets para extraer buenas características de datos de señales e imágenes.

Hola a todos, mi nombre es Bernhard Suhm, soy gerente de producto de aprendizaje automático con MathWorks. Permítanme motivar mi tema con algunas preguntas para ustedes. ¿Dónde desean aplicar IA? ¿Están preocupados por la falta de experiencia en IA o por los modelos de caja negra? La comunidad reconoce ampliamente estos desafíos y barreras para una adopción más amplia de la IA en muchas industrias. Hoy me enfocaré en AutomL, una automatización que elimina el esfuerzo iterativo rutinario y la mayor parte de la ciencia en la construcción de modelos de aprendizaje automático. Entonces, ¿qué es exactamente AutomL? Para entender eso, necesitan conocer un poco sobre el flujo de trabajo típico para construir modelos de aprendizaje automático, el enfoque de esta charla, pero construir redes neuronales profundas no es muy diferente. Primero, necesitan procesar sus datos crudos, lidiar con su desorden y darle una forma adecuada para etapas posteriores, como lidiar con datos faltantes y valores atípicos. Luego, necesitan diseñar características, extraer algunas variables de sus datos que sirvan como entrada para su modelo y capturar la mayoría de la variabilidad. Eso es bastante fácil para datos numéricos, pero mucho más difícil para señales. Luego, se enfrentan a la elección de diferentes modelos de aprendizaje automático. Incluso para los expertos, no está claro qué modelo funciona mejor en cualquier problema dado. Por lo tanto, deben probar múltiples modelos, lo que conduce a la etapa de ajuste del modelo, donde evalúan el rendimiento de algunos modelos iniciales, optimizan sus hiperparámetros y tal vez seleccionan un subconjunto de características para evitar el sobreajuste. Pero eso puede no ser suficiente para obtener un rendimiento realmente bueno. Es posible que deban retroceder, reemplazar algunas características por otras y hacer todo esto nuevamente. Si están familiarizados con el aprendizaje automático, sabrán que las etapas más difíciles y que consumen más tiempo son la ingeniería de características y la optimización. Si ahora tienen la cabeza dando vueltas, no se desesperen porque no necesitan conocer toda esta complejidad. El objetivo de AutomL es simplificarla. Idealmente, pasar directamente de sus datos iniciales y su problema de aprendizaje automático a un modelo que puedan implementar. Sin embargo, tomarlo en serio, eso no es una expectativa realista. El aprendizaje automático en un solo paso no es posible. Sin embargo, lo que es realista es liberar a ingenieros como ustedes para que se centren en los problemas difíciles de aprendizaje automático y en su aplicación. De lo contrario, sin AutomL, tendrán que buscar esa experiencia en IA dentro de su equipo y organización o externamente. Esos científicos de datos son difíciles de encontrar y costosos. Como la primera barrera que AutomL elimina, supera la falta de experiencia en aprendizaje automático. Pero incluso si tienen esa experiencia, aumentarán su productividad porque AutomL elimina esos pasos que consumen mucho tiempo y son iterativos. Finalmente, AutomL les permite resolver problemas que de otra manera no serían factibles, como casos de uso en los que necesitan construir muchos modelos diferentes que representen diferentes variaciones o etapas ambientales diferentes. Entonces, ¿cómo aplican AutomL en la ingeniería? La mayoría de esas aplicaciones de ingeniería se basan en datos de señales e imágenes, y ahí es donde la ingeniería de características se vuelve crítica para un buen rendimiento, y eso es notoriamente difícil. En MathWorks hemos aplicado nuestros conocimientos en procesamiento de señales y hemos desarrollado el siguiente enfoque de AutomL de tres pasos. Primero, aplican scattering de wavelets. Estos wavelets son muy adecuados en su forma limitada en el tiempo para representar picos y

2. Automated Feature Selection and Model Optimization

Short description:

Muchas aplicaciones de ingeniería requieren implementación en sistemas integrados con limitaciones de memoria y energía. Aplicamos selección automática de características para reducir las características de wavelet y el tamaño del modelo. AutoML capacita a los ingenieros para construir modelos optimizados sin experiencia. AutoML se puede aplicar a aplicaciones de señales con generación automática de características, selección y ajuste de modelos. MATLAB puede traducir a código de bajo nivel para implementación. Únete a la sesión más larga sobre interpretabilidad automática y al taller práctico sobre aprendizaje automático y profundo utilizando MATLAB en línea.

irregularidades en su señal. Por lo tanto, obtienes características muy buenas. Sin embargo, muchas aplicaciones de ingeniería requieren implementación en sistemas integrados con limitaciones de memoria y energía. Para esos casos, no puedes implementar modelos grandes. Entonces, en segundo lugar, aplicamos selección automática de características para reducir las posiblemente cientos de características de wavelet a solo unas pocas características muy eficientes y reducir el tamaño del modelo. Finalmente, y lo más importante, está el paso de selección de modelo y ajuste de hiperparámetros. Tienes diferentes modelos para elegir, y para que el modelo funcione bien, los hiperparámetros deben ajustarse correctamente. Veamos esa etapa con un poco más de detalle.

¿Cómo funciona esa optimización simultánea del modelo y los hiperparámetros? Bueno, puedes realizar una búsqueda aleatoria, pero eso tampoco es eficiente porque el espacio de búsqueda es muy grande. Utilizamos optimización bayesiana que construye un modelo del espacio de búsqueda. Y aquí puedes ver cómo esa optimización bayesiana cambia entre diferentes tipos de modelos y optimiza el error a lo largo de las iteraciones.

¿Cómo sabemos que AutoML funciona? Comparamos AutoML con el proceso manual tradicional en dos problemas de clasificación. Primero, analizamos el reconocimiento de actividad humana, donde se utilizan datos auxiliares de medidores de teléfonos móviles. Tenemos alrededor de 7K observaciones en el conjunto que recopilamos y creamos manualmente 66 características utilizando diversas funciones de procesamiento de señales. En segundo lugar, analizamos la clasificación de sonidos cardíacos. Imagina estar en el consultorio de tu médico con un estetoscopio y escuchar el sonido de tu corazón. Para esos fonogramas, podríamos tener un conjunto de 10K observaciones disponibles públicamente y crear menos de 30 características.

¿Qué resultados obtuvimos? Puedes ver aquí que con el proceso manual, logramos precisión en los altos 90, como se desearía para una aplicación tan importante. Para AutoML, en una aplicación ligeramente menor, pero el punto es que, sin toda esa experiencia y proceso iterativo que consume mucho tiempo, obtienes muy buenos modelos en pocos pasos. Entonces, AutoML capacita a los ingenieros sin experiencia en IA para construir modelos optimizados, incluso para aplicaciones de señales donde la extracción de características es notoriamente difícil. Podemos aplicar AutoML a aplicaciones de señales en pocos pasos. Generación automática de características con wavelets. Selección automática de características para reducir el tamaño del modelo y hacer que se ajuste a tu hardware. Y selección de modelo junto con ajuste de hiperparámetros de manera eficiente utilizando optimización bayesiana. Finalmente, para implementar tu modelo de IA en sistemas integrados y en el borde, necesitas código de bajo nivel como C. MATLAB puede traducir automáticamente a código C, C++ que se puede implementar directamente y así eliminar otra barrera para una adopción más amplia de la IA.

Gracias por su atención y si desean saber más, el lunes por la tarde o por la noche, tendré una sesión más larga sobre interpretabilidad automática, un seminario sobre esos dos temas de una hora y un taller práctico de dos horas sobre aprendizaje automático y profundo utilizando MATLAB en línea. Y ahora regresaré al moderador para preguntas.

Check out more articles and videos

We constantly think of articles and videos that might spark Git people interest / skill us up or help building a stellar career

JSNation 2023JSNation 2023
24 min
AI and Web Development: Hype or Reality
In this talk, we'll take a look at the growing intersection of AI and web development. There's a lot of buzz around the potential uses of AI in writing, understanding, and debugging code, and integrating it into our applications is becoming easier and more affordable. But there are also questions about the future of AI in app development, and whether it will make us more productive or take our jobs.
There's a lot of excitement, skepticism, and concern about the rise of AI in web development. We'll explore the real potential for AI in creating new web development frameworks, and separate fact from fiction.
So if you're interested in the future of web development and the role of AI in it, this talk is for you. Oh, and this talk abstract was written by AI after I gave it several of my unstructured thoughts.
6 min
Charlie Gerard's Career Advice: Be intentional about how you spend your time and effort
Featured Article
When it comes to career, Charlie has one trick: to focus. But that doesn’t mean that you shouldn’t try different things — currently a senior front-end developer at Netlify, she is also a sought-after speaker, mentor, and a machine learning trailblazer of the JavaScript universe. "Experiment with things, but build expertise in a specific area," she advises.

What led you to software engineering?My background is in digital marketing, so I started my career as a project manager in advertising agencies. After a couple of years of doing that, I realized that I wasn't learning and growing as much as I wanted to. I was interested in learning more about building websites, so I quit my job and signed up for an intensive coding boot camp called General Assembly. I absolutely loved it and started my career in tech from there.
 What is the most impactful thing you ever did to boost your career?I think it might be public speaking. Going on stage to share knowledge about things I learned while building my side projects gave me the opportunity to meet a lot of people in the industry, learn a ton from watching other people's talks and, for lack of better words, build a personal brand.
 What would be your three tips for engineers to level up their career?Practice your communication skills. I can't stress enough how important it is to be able to explain things in a way anyone can understand, but also communicate in a way that's inclusive and creates an environment where team members feel safe and welcome to contribute ideas, ask questions, and give feedback. In addition, build some expertise in a specific area. I'm a huge fan of learning and experimenting with lots of technologies but as you grow in your career, there comes a time where you need to pick an area to focus on to build more profound knowledge. This could be in a specific language like JavaScript or Python or in a practice like accessibility or web performance. It doesn't mean you shouldn't keep in touch with anything else that's going on in the industry, but it means that you focus on an area you want to have more expertise in. If you could be the "go-to" person for something, what would you want it to be? 
 And lastly, be intentional about how you spend your time and effort. Saying yes to everything isn't always helpful if it doesn't serve your goals. No matter the job, there are always projects and tasks that will help you reach your goals and some that won't. If you can, try to focus on the tasks that will grow the skills you want to grow or help you get the next job you'd like to have.
 What are you working on right now?Recently I've taken a pretty big break from side projects, but the next one I'd like to work on is a prototype of a tool that would allow hands-free coding using gaze detection. 
 Do you have some rituals that keep you focused and goal-oriented?Usually, when I come up with a side project idea I'm really excited about, that excitement is enough to keep me motivated. That's why I tend to avoid spending time on things I'm not genuinely interested in. Otherwise, breaking down projects into smaller chunks allows me to fit them better in my schedule. I make sure to take enough breaks, so I maintain a certain level of energy and motivation to finish what I have in mind.
 You wrote a book called Practical Machine Learning in JavaScript. What got you so excited about the connection between JavaScript and ML?The release of TensorFlow.js opened up the world of ML to frontend devs, and this is what really got me excited. I had machine learning on my list of things I wanted to learn for a few years, but I didn't start looking into it before because I knew I'd have to learn another language as well, like Python, for example. As soon as I realized it was now available in JS, that removed a big barrier and made it a lot more approachable. Considering that you can use JavaScript to build lots of different applications, including augmented reality, virtual reality, and IoT, and combine them with machine learning as well as some fun web APIs felt super exciting to me.


Where do you see the fields going together in the future, near or far? I'd love to see more AI-powered web applications in the future, especially as machine learning models get smaller and more performant. However, it seems like the adoption of ML in JS is still rather low. Considering the amount of content we post online, there could be great opportunities to build tools that assist you in writing blog posts or that can automatically edit podcasts and videos. There are lots of tasks we do that feel cumbersome that could be made a bit easier with the help of machine learning.
 You are a frequent conference speaker. You have your own blog and even a newsletter. What made you start with content creation?I realized that I love learning new things because I love teaching. I think that if I kept what I know to myself, it would be pretty boring. If I'm excited about something, I want to share the knowledge I gained, and I'd like other people to feel the same excitement I feel. That's definitely what motivated me to start creating content.
 How has content affected your career?I don't track any metrics on my blog or likes and follows on Twitter, so I don't know what created different opportunities. Creating content to share something you built improves the chances of people stumbling upon it and learning more about you and what you like to do, but this is not something that's guaranteed. I think over time, I accumulated enough projects, blog posts, and conference talks that some conferences now invite me, so I don't always apply anymore. I sometimes get invited on podcasts and asked if I want to create video content and things like that. Having a backlog of content helps people better understand who you are and quickly decide if you're the right person for an opportunity.What pieces of your work are you most proud of?It is probably that I've managed to develop a mindset where I set myself hard challenges on my side project, and I'm not scared to fail and push the boundaries of what I think is possible. I don't prefer a particular project, it's more around the creative thinking I've developed over the years that I believe has become a big strength of mine.***Follow Charlie on Twitter
React Summit US 2023React Summit US 2023
30 min
The Rise of the AI Engineer
We are observing a once in a generation “shift right” of applied AI, fueled by the emergent capabilities and open source/API availability of Foundation Models. A wide range of AI tasks that used to take 5 years and a research team to accomplish in 2013, now just require API docs and a spare afternoon in 2023. Emergent capabilities are creating an emerging title: to wield them, we'll have to go beyond the Prompt Engineer and write *software*. Let's explore the wide array of new opportunities in the age of Software 3.0!
ML conf EU 2020ML conf EU 2020
41 min
TensorFlow.js 101: ML in the Browser and Beyond
Discover how to embrace machine learning in JavaScript using TensorFlow.js in the browser and beyond in this speedy talk. Get inspired through a whole bunch of creative prototypes that push the boundaries of what is possible in the modern web browser (things have come a long way) and then take your own first steps with machine learning in minutes. By the end of the talk everyone will understand how to recognize an object of their choice which could then be used in any creative way you can imagine. Familiarity with JavaScript is assumed, but no background in machine learning is required. Come take your first steps with TensorFlow.js!
JS GameDev Summit 2023JS GameDev Summit 2023
37 min
Building the AI for Athena Crisis
This talk will dive into how to build an AI for a turn based strategy game from scratch. When I started building Athena Crisis, I had no idea how to build an AI. All the available resources were too complex or confusing, so I just started building it based on how I would play the game. If you would like to learn how to build an AI, check out this talk!

Workshops on related topic

DevOps.js Conf 2024DevOps.js Conf 2024
163 min
AI on Demand: Serverless AI
Featured WorkshopFree
In this workshop, we discuss the merits of serverless architecture and how it can be applied to the AI space. We'll explore options around building serverless RAG applications for a more lambda-esque approach to AI. Next, we'll get hands on and build a sample CRUD app that allows you to store information and query it using an LLM with Workers AI, Vectorize, D1, and Cloudflare Workers.
React Advanced Conference 2023React Advanced Conference 2023
98 min
Working With OpenAI and Prompt Engineering for React Developers
Workshop
In this workshop we'll take a tour of applied AI from the perspective of front end developers, zooming in on the emerging best practices when it comes to working with LLMs to build great products. This workshop is based on learnings from working with the OpenAI API from its debut last November to build out a working MVP which became PowerModeAI (A customer facing ideation and slide creation tool).
In the workshop they'll be a mix of presentation and hands on exercises to cover topics including:
- GPT fundamentals- Pitfalls of LLMs- Prompt engineering best practices and techniques- Using the playground effectively- Installing and configuring the OpenAI SDK- Approaches to working with the API and prompt management- Implementing the API to build an AI powered customer facing application- Fine tuning and embeddings- Emerging best practice on LLMOps
JSNation Live 2021JSNation Live 2021
81 min
Intro to AI for JavaScript Developers with Tensorflow.js
Workshop
Have you wanted to explore AI, but didn't want to learn Python to do it? Tensorflow.js lets you use AI and deep learning in javascript – no python required!
We'll take a look at the different tasks AI can help solve, and how to use Tensorflow.js to solve them. You don't need to know any AI to get started - we'll start with the basics, but we'll still be able to see some neat demos, because Tensorflow.js has a bunch of functionality and pre-built models that you can use on the server or in the browser.
After this workshop, you should be able to set up and run pre-built Tensorflow.js models, or begin to write and train your own models on your own data.
ML conf EU 2020ML conf EU 2020
160 min
Hands on with TensorFlow.js
Workshop
Come check out our workshop which will walk you through 3 common journeys when using TensorFlow.js. We will start with demonstrating how to use one of our pre-made models - super easy to use JS classes to get you working with ML fast. We will then look into how to retrain one of these models in minutes using in browser transfer learning via Teachable Machine and how that can be then used on your own custom website, and finally end with a hello world of writing your own model code from scratch to make a simple linear regression to predict fictional house prices based on their square footage.
ML conf EU 2020ML conf EU 2020
112 min
The Hitchhiker's Guide to the Machine Learning Engineering Galaxy
Workshop
Are you a Software Engineer who got tasked to deploy a machine learning or deep learning model for the first time in your life? Are you wondering what steps to take and how AI-powered software is different from traditional software? Then it is the right workshop to attend.
The internet offers thousands of articles and free of charge courses, showing how it is easy to train and deploy a simple AI model. At the same time in reality it is difficult to integrate a real model into the current infrastructure, debug, test, deploy, and monitor it properly. In this workshop, I will guide you through this process sharing tips, tricks, and favorite open source tools that will make your life much easier. So, at the end of the workshop, you will know where to start your deployment journey, what tools to use, and what questions to ask.
ML conf EU 2020ML conf EU 2020
146 min
Introduction to Machine Learning on the Cloud
Workshop
This workshop will be both a gentle introduction to Machine Learning, and a practical exercise of using the cloud to train simple and not-so-simple machine learning models. We will start with using Automatic ML to train the model to predict survival on Titanic, and then move to more complex machine learning tasks such as hyperparameter optimization and scheduling series of experiments on the compute cluster. Finally, I will show how Azure Machine Learning can be used to generate artificial paintings using Generative Adversarial Networks, and how to train language question-answering model on COVID papers to answer COVID-related questions.