В Oracle опубликовали в открытых кодах GraphPipe — протокол передачи тензорных данных, выразив надежду на то, что он станет стандартом взаимодействия с серверами моделей машинного обучения. В числе преимуществ разработки в Oracle называют простоту, малое число зависимостей и использование библиотеки FlatBuffers для сериализации моделей, которая ускоряет процесс за счет отсутствия промежуточного копирования данных в память.
Помимо самого протокола в Oracle разработали основанные на нем серверы моделей для популярных фреймворков машинного обучения - TensorFlow, Caffe2 и других, а также примеры клиентов на Go, Python и Java.
Как объясняют в Oracle, GraphPipe помогает решить ряд давно назревших проблем мира машинного обучения, в том числе связанных с отсутствием стандартного API работы с моделями, трудностями разработки серверов моделей и неэффективностью имеющихся средств передачи тензорных данных от сложных моделей.
