Наша работа и P16
P16 — французская программа под руководством Inria при поддержке France 2030, которая разрабатывает суверенные, открытые и совместимые программные библиотеки для ИИ. Наша библиотека и наши продукты преследуют те же цели, и мы намерены обратиться за её поддержкой.
Кратко о P16
Программа P16 запущена в сентябре 2024 года в рамках Национальной стратегии в области искусственного интеллекта и названа по мере 16 стратегии ускорения ИИ. Её задача — укрепить технологическую автономию Франции и Европы с помощью программных библиотек, охватывающих весь цикл данных и моделей. Inria руководит программой через свою Программу ИИ, с бюджетом около 8 миллионов евро на пять лет.
- Три приоритетных направления: совместимость данных, их подготовка, обучение и исполнение моделей.
- Библиотеки, которые разрабатываются, широко распространяются и поддерживаются как цифровое общее достояние.
- Путь передачи в промышленность, в том числе для исследований доверенного, экономного и встраиваемого ИИ.
- Программные компоненты, отбираемые по качеству, зрелости, универсальности и значению для цифрового суверенитета.
Точки совпадения нашей работы с целями P16
Каждая строка связывает цель, заявленную P16, с тем, что мы уже опубликовали.
| Цель P16 | Публикации Cydral Technology |
|---|---|
| Суверенные и открытые библиотеки | Dlib-Transformer-extensions, написанная во Франции на стандартном C++14 и опубликованная под лицензией Boost Software License 1.0, без среды Python в цепочке. |
| Совместимость | Модели, читаемые из формата GGUF, локальный интерфейс, который следует интерфейсу OpenAI и описан с помощью OpenAPI, документы, читаемые и записываемые в офисных форматах. |
| Подготовка данных | Токенизатор с кодированием пар байтов, инструменты для корпусов и наборов данных и Pseudalis, который убирает персональные данные из документов до того, как они попадут в модель или в подсказку. |
| Обучение и исполнение моделей | Дообучение с LoRA и DoRA, дистилляция, прореживание и движки для процессоров, для NPU и GPU Intel и для графических процессоров NVIDIA. |
| Экономный ИИ | Квантованные веса, целочисленные ядра и программно расширенная память GPU: мультимодальная модель на 4 миллиарда параметров отвечает на ноутбуке с 8 ГБ памяти. |
| Доверенный ИИ | Локальное исполнение, подписанные обновления, обратимая псевдонимизация по статьям 25 и 32 GDPR и отчёты, в которых названы ограничения каждого метода. |
| Встраиваемый ИИ | Операции, направляемые на NPU и встроенный GPU процессора, и модели, скомпилированные в одну программу. |
| Передача компаниям | Два установленных продукта, Albireo и Pseudalis, бесплатные в редакциях Community и открытые для распространения под другой маркой. |
По её критериям отбора
Качество программного обеспечения
Тесты, запускаемые примеры и исследовательский отчёт по каждому методу, хранящиеся вместе с кодом.
Зрелость
Выпущенные версии с установщиками, подписанный канал обновлений и каталог моделей, проверяемый по хешу.
Универсальность
Одна библиотека охватывает жизнь модели, от импорта опубликованной модели до её дистилляции, для текста и для изображений.
Суверенитет
Код, модели и ключи остаются на машинах, которыми управляют их владельцы, и каждый компонент можно прочитать, проверить и разместить у себя.
Поддержка, которую мы ищем
Сегодня Cydral Technology не является партнёром P16 и не получает государственного финансирования. Мы намерены представить библиотеку программе и найти там инженерную поддержку, известность и, если возможно, финансирование. Это позволит поддерживать библиотеку в долгосрочной перспективе и донести её до большего числа европейских компаний.
Тем временем мы рады любой другой поддержке: спонсировать функцию, финансировать дорожную карту или распространять продукты.
Источники
- Inria: что такое P16, проект, порученный Inria в рамках France 2030 (на французском)
- Сайт P16
- Национальное агентство исследований Франции, проект P16 (23-RDIA-0001)
P16 и France 2030 названы здесь для описания государственных программ. Их упоминание не означает какого-либо одобрения Cydral Technology со стороны Inria или французского государства.