Наша работа и P16

P16 — французская программа под руководством Inria при поддержке France 2030, которая разрабатывает суверенные, открытые и совместимые программные библиотеки для ИИ. Наша библиотека и наши продукты преследуют те же цели, и мы намерены обратиться за её поддержкой.

Кратко о P16

Программа P16 запущена в сентябре 2024 года в рамках Национальной стратегии в области искусственного интеллекта и названа по мере 16 стратегии ускорения ИИ. Её задача — укрепить технологическую автономию Франции и Европы с помощью программных библиотек, охватывающих весь цикл данных и моделей. Inria руководит программой через свою Программу ИИ, с бюджетом около 8 миллионов евро на пять лет.

  • Три приоритетных направления: совместимость данных, их подготовка, обучение и исполнение моделей.
  • Библиотеки, которые разрабатываются, широко распространяются и поддерживаются как цифровое общее достояние.
  • Путь передачи в промышленность, в том числе для исследований доверенного, экономного и встраиваемого ИИ.
  • Программные компоненты, отбираемые по качеству, зрелости, универсальности и значению для цифрового суверенитета.

Точки совпадения нашей работы с целями P16

Каждая строка связывает цель, заявленную P16, с тем, что мы уже опубликовали.

Цель P16Публикации Cydral Technology
Суверенные и открытые библиотекиDlib-Transformer-extensions, написанная во Франции на стандартном C++14 и опубликованная под лицензией Boost Software License 1.0, без среды Python в цепочке.
СовместимостьМодели, читаемые из формата GGUF, локальный интерфейс, который следует интерфейсу OpenAI и описан с помощью OpenAPI, документы, читаемые и записываемые в офисных форматах.
Подготовка данныхТокенизатор с кодированием пар байтов, инструменты для корпусов и наборов данных и Pseudalis, который убирает персональные данные из документов до того, как они попадут в модель или в подсказку.
Обучение и исполнение моделейДообучение с LoRA и DoRA, дистилляция, прореживание и движки для процессоров, для NPU и GPU Intel и для графических процессоров NVIDIA.
Экономный ИИКвантованные веса, целочисленные ядра и программно расширенная память GPU: мультимодальная модель на 4 миллиарда параметров отвечает на ноутбуке с 8 ГБ памяти.
Доверенный ИИЛокальное исполнение, подписанные обновления, обратимая псевдонимизация по статьям 25 и 32 GDPR и отчёты, в которых названы ограничения каждого метода.
Встраиваемый ИИОперации, направляемые на NPU и встроенный GPU процессора, и модели, скомпилированные в одну программу.
Передача компаниямДва установленных продукта, Albireo и Pseudalis, бесплатные в редакциях Community и открытые для распространения под другой маркой.

По её критериям отбора

Качество программного обеспечения

Тесты, запускаемые примеры и исследовательский отчёт по каждому методу, хранящиеся вместе с кодом.

Зрелость

Выпущенные версии с установщиками, подписанный канал обновлений и каталог моделей, проверяемый по хешу.

Универсальность

Одна библиотека охватывает жизнь модели, от импорта опубликованной модели до её дистилляции, для текста и для изображений.

Суверенитет

Код, модели и ключи остаются на машинах, которыми управляют их владельцы, и каждый компонент можно прочитать, проверить и разместить у себя.

Поддержка, которую мы ищем

Сегодня Cydral Technology не является партнёром P16 и не получает государственного финансирования. Мы намерены представить библиотеку программе и найти там инженерную поддержку, известность и, если возможно, финансирование. Это позволит поддерживать библиотеку в долгосрочной перспективе и донести её до большего числа европейских компаний.

Тем временем мы рады любой другой поддержке: спонсировать функцию, финансировать дорожную карту или распространять продукты.

Источники

P16 и France 2030 названы здесь для описания государственных программ. Их упоминание не означает какого-либо одобрения Cydral Technology со стороны Inria или французского государства.