Создайте ИИ-робота с использованием Android-смартфона, ESP32 и micro:bit
Описание
О чём мастер-класс
Пол Чин показывает, как собрать робота SAM с Android-смартфоном в роли управляющего устройства. Вы создадите приложение в MIT App Inventor: оно распознаёт речь, отвечает голосом, отображает глаза и выражения на экране, а также использует камеру для распознавания и отслеживания лица и объектов. Основной акцент автор делает на разговорном поведении, характере робота и взаимодействии с человеком.
Варианты сборки
Вы можете ограничиться смартфоном либо дополнить SAM платой ESP32 или набором micro:bit. В варианте с ESP32 телефон передаёт команды по Bluetooth Classic, а плата управляет моторами; для её программирования используют Arduino IDE. В варианте с micro:bit команды передаются по Bluetooth BLE, а программирование платы выполняют в Microsoft MakeCode. ESP32 и micro:bit для прохождения мастер-класса необязательны.
Что внутри
Программа идёт от корпуса и подключения моторов к приложению для Android. Вы настроите Bluetooth-связь, распознавание речи и лица, отслеживание, экранные глаза, чат-бота и сборку APK. Затем предусмотрены дополнительные функции: голосовые команды, распознавание изображений, собственные расширения, локальный запуск языковой модели, долговременная память и Sam API. Автор также разбирает типичные проблемы со связью, моторами и логикой приложения.
Для кого и что потребуется
Мастер-класс рассчитан на новичков, студентов, любителей робототехники, мейкеров и преподавателей STEM. Предварительный опыт программирования не требуется: MIT App Inventor и Microsoft MakeCode используют визуальные блоки. Нужны Android-телефон и ПК с Windows; базовые навыки подключения электронных компонентов пригодятся только при сборке физического робота.
Для расширенных функций автор предлагает необязательное подключение OpenAI API с ключом либо локальную альтернативу. Материал представлен на английском языке. По словам автора, к концу мастер-класса вы сможете собрать работающего интерактивного робота, объединив приложение и выбранную аппаратную конфигурацию.
Что в мастер-классе
Материалы курса
- Что мы создаём
- Введение
- Что мы будем создавать
- Создание корпуса робота
- Необходимые аппаратные компоненты
- Припаивание проводов к моторам
- Сборка шасси робота — часть 1
- Сборка шасси робота — часть 2
- Модернизация аккумулятора
- Программирование ESP32
- Установка Arduino IDE
- Как работает управление ESP32
- Тестирование управления ESP32
- Программирование Android-телефона
- Настройка App Inventor
- Bluetooth-связь
- Распознавание речи
- Распознавание лица
- Отслеживание лица
- Глаза робота
- Чат-бот
- Создание APK-приложения
- Добавление новых функций
- Голосовая команда для Bluetooth и сна
- Создание собственного расширения камеры
- Распознавание изображений
- Создание собственного расширения для чат-бота
- Локальный запуск LLM
- Установка LM Studio
- Запуск Sam с локальной LLM
- Необязательное обновление Microbit
- Обновление Microbit
- Необязательное обновление аккумулятора для Microbit Sam
- Программирование micro:bit
- Программирование Android-телефона для micro:bit
- Ввод IP, дальнейшие улучшения и устранение неполадок
- Демонстрация ввода IP
- Объяснение того, как работает кнопка IP и другие улучшения
- Устранение типичных проблем с Sam
- Долговременная память и Sam API
- Введение в Sam API
- Установка Sam API
- Как работает Sam API
- Ресурсы для дальнейшего изучения
- Ресурсы для дальнейшего изучения
Теги
Другие материалы автора 8
ПЧ Пол Чин Все материалыОтзывов пока нет. Будьте первым!
Этот мастер-класс сейчас в процессе организации складчины. Нажмите кнопку «Записаться» и ожидайте старта — вам придёт уведомление. Когда складчина стартует, в карточке мастер-класса будет указан актуальный взнос. Текущая цена пока в процессе формирования и может отличаться от финальной.
Да, мы стремимся, чтобы финальный взнос был не больше ≈10% от оригинальной цены мастер-класса. Чем больше участников записывается в складчину, тем ниже выходит взнос для каждого.
Нажмите кнопку «Записаться» и авторизуйтесь на сайте через email (через ту же почту, которую будете использовать для входа). В личном кабинете вас будут ждать инструкции, как пригласить других участников — чем больше людей записалось, тем быстрее стартует складчина и тем ниже взнос. Как только складчина готова к приобретению, вам придёт уведомление.