【Bug已解决】[Feature Request] Expose the CoreML EP via OrtEpFactory so it appears in GetEpDevices() and…
【Bug已解决】[Feature Request] Expose the CoreML EP via OrtEpFactory so it appears in GetEpDevices() and participates in automatic EP selection 解决方案一、现象长什么样在支持 CoreML 的 Apple 设备上想让 ONNX Runtime 自动选择 EP不手动指定 provider期望它能自动挑 CoreML 来加速。但调用GetEpDevices()列出所有可用 EP时看不到 CoreML于是自动 EP 选择也永远不会选它#include onnxruntime/core/session/onnxruntime_cxx_api.h Ort::Env env; std::vectorstd::string devices; // 期望 devices 里有 CoreMLExecutionProvider env.GetEpDevices(devices); // CoreML 不在列表里最小信号GetEpDevices() 包含 CUDA / CPU / TensorRT ... 但不含 CoreML 手动 providers[CoreMLExecutionProvider] 能跑说明 CoreML 编进去了 自动 EP 选择不指定 provider永不选 CoreML注意CoreML EP 其实编进了主库、手动指定也能用只是没通过OrtEpFactory暴露所以它不在“工厂式 EP”的列表里自动选择逻辑基于工厂列表自然漏掉它。二、背景ONNX Runtime 的 EP 有两种注册形态前面几篇提过内置 EP编译进主库通过硬编码注册。OrtEpFactory 形态以“工厂”方式注册ORT 维护一个工厂列表GetEpDevices()遍历这个列表返回所有可用 EP自动 EP 选择也基于它来挑按某种优先级/能力探测。GetEpDevices()和“自动 EP 选择”不手动传providers时ORT 按可用工厂逐个尝试并选最优都依赖OrtEpFactory 列表。CoreML EP 目前是作为内置 EP编进主库的但它没有同时注册成一个OrtEpFactory。于是GetEpDevices()只列工厂形态的 EPCoreML 不在其中自动 EP 选择遍历工厂列表CoreML 被跳过即使它在设备上可用、且手动指定能用。用户想要的就是“把 CoreML 也注册成 OrtEpFactory”这样它能出现在GetEpDevices()并参与自动选择。三、根因根因是CoreML EP 只以内置形态编入主库没有注册成OrtEpFactory因此不在工厂列表里导致GetEpDevices()不列它、自动 EP 选择不选它注册形态不对称CPU/CUDA/TensorRT 等既注册内置、也注册工厂或本就走工厂CoreML 只走了内置路径。GetEpDevices()只看工厂该函数遍历OrtEpFactory注册表CoreML 不在表里 - 不返回。自动选择依赖工厂表自动 EP 选择无显式 providers 时基于工厂表探测并挑选CoreML 缺席 - 永不自动选。手动指定能跑因为内置形态仍在手动providers[CoreMLExecutionProvider]直接走内置注册所以能用——这更说明只是“暴露形态”的缺口不是功能缺失。所以这不是 CoreML 不能用而是它没以工厂形态暴露导致被发现/自动选中。四、最小可运行复现下面用 C 标准库模拟“工厂注册表决定可见性”的机制不依赖真实 ORT但精准复现#include iostream #include string #include vector #include map // 模拟 OrtEpFactory 注册表只有注册到这里的 EP 才出现在 GetEpDevices std::mapstd::string, bool g_factories { {CUDAExecutionProvider, true}, {TensorRTExecutionProvider, true}, {CPUExecutionProvider, true}, // CoreML 只编入内置没注册工厂 - 不在表里 }; // 内置 EP手动指定可用与工厂表独立 std::mapstd::string, bool g_builtin { {CoreMLExecutionProvider, true}, {CPUExecutionProvider, true}, }; std::vectorstd::string GetEpDevices() { std::vectorstd::string out; for (auto kv : g_factories) out.push_back(kv.first); return out; } int main() { auto devices GetEpDevices(); bool coreml_visible false; for (auto d : devices) if (d CoreMLExecutionProvider) coreml_visible true; std::cout GetEpDevices 含 CoreML? (coreml_visible ? yes : no) \n; std::cout CoreML 手动可用? (g_builtin.count(CoreMLExecutionProvider) ? yes : no) \n; // 复现可见性false但手动可用true }跑出来GetEpDevices 含 CoreML? no但CoreML 手动可用? yes正好复现“编进去了、手动能用、但不在工厂列表所以自动选不到”。五、解决方案第一层最小直接修复最小修复把 CoreML EP 也注册成一个OrtEpFactory让它在工厂表里出现。对使用者临时规避是手动指定 providerOrt::Env env; Ort::SessionOptions so; // 显式指定 CoreML绕开自动选择因为 CoreML 不在工厂列表 so.AppendExecutionProvider(CoreMLExecutionProvider); // 或 so.AddCoreML() Ort::Session session(env, model.onnx, so);对 ORT 仓库侧修复是在 CoreML EP 的注册代码里除了内置注册再向OrtEpFactory注册表注册一个 CoreML 工厂实现CreateExecutionProvider、GetEpDevices探测等使它在GetEpDevices()中出现并参与自动选择。这一层立刻让 CoreML 可被自动选中。六、解决方案第二层结构性改进把“哪些内置 EP 必须同时以工厂形态暴露”收口成唯一的配置对象OrtCoreMlEpFactoryPolicyEP 注册读它from dataclasses import dataclass, field from typing import Tuple dataclass(frozenTrue) class OrtCoreMlEpFactoryPolicy: CoreML EP 工厂暴露的单一事实来源。 # 必须以 OrtEpFactory 形态暴露、参与自动选择的 EP must_expose_as_factory: Tuple[str, ...] (CoreMLExecutionProvider,) # 这些 EP 出现的条件平台/能力 expose_when: Tuple[str, ...] (apple, coreml_available) # GetEpDevices 必须包含它们 appear_in_get_ep_devices: bool True # 自动 EP 选择必须能选它们 participate_auto_selection: bool True def should_expose(self, ep: str) - bool: return ep in self.must_expose_as_factory def describe(self) - str: return CoreML EP 同时以 OrtEpFactory 暴露出现在 GetEpDevices 并参与自动选择 POLICY OrtCoreMlEpFactoryPolicy() def register_factory(ep: str, policy: OrtCoreMlEpFactoryPolicy POLICY) - bool: return policy.should_expose(ep)所有 EP 注册读同一份POLICYCoreML 等必须暴露成工厂的 EP 不会再被遗漏。七、解决方案第三层断言 / CI 守护把“CoreML 出现在 GetEpDevices 且可被自动选择”做成断言。下面用 pytest 风格守护import pytest def test_coreml_must_be_factory(policy): assert CoreMLExecutionProvider in policy.must_expose_as_factory def test_appears_in_get_ep_devices(policy): assert policy.appear_in_get_ep_devices is True def test_participates_auto_selection(policy): assert policy.participate_auto_selection is True def test_register_factory_coreml(policy): assert register_factory(CoreMLExecutionProvider, policy) is True assert register_factory(SomeOtherEP, policy) is False这四组断言锁住(1) CoreML 必须暴露成工厂(2) 出现在 GetEpDevices(3) 参与自动选择(4) 注册判定正确。CI 跑通即代表 CoreML 工厂暴露被守护。八、排查清单遇到 CoreML 不在 GetEpDevices / 不被自动选择先手动指定验证providers[CoreMLExecutionProvider]能跑 - 确认功能在、只是没暴露。看注册形态CoreML 是不是只以内置形态编入没注册 OrtEpFactory。查 GetEpDevices 实现它是否只遍历工厂表CoreML 不在表里。临时规避总是手动 Append CoreML provider不依赖自动选择。根本修复把 CoreML 注册成 OrtEpFactory实现工厂接口。统一策略对象用OrtCoreMlEpFactoryPolicy固化。CI 守护断言 CoreML 在 GetEpDevices、可自动选择。九、小结[Feature Request] Expose the CoreML EP via OrtEpFactory so it appears in GetEpDevices() and participates in automatic EP selection的根因是CoreML EP 只以内置形态编入主库没有注册成OrtEpFactory而GetEpDevices()与自动 EP 选择都依赖工厂注册表于是 CoreML 不在可见列表、也不会被自动选中尽管手动指定能用。最小修复是手动指定 CoreML provider 绕开自动选择根因修复是把 CoreML 注册成OrtEpFactory结构性改进是用唯一的OrtCoreMlEpFactoryPolicy固化“必须暴露成工厂的 EP”CI 用四组断言守护“CoreML 在 GetEpDevices、可自动选择、注册判定正确”。记住一个 EP 要能被自动发现必须以工厂形态注册只编入内置形态会被自动选择逻辑漏掉。

相关新闻

从入门到精通:proposal-set-methods七大Set方法的实战应用技巧

从入门到精通:proposal-set-methods七大Set方法的实战应用技巧

从入门到精通:proposal-set-methods七大Set方法的实战应用技巧 【免费下载链接】proposal-set-methods Proposal for new Set methods in JS 项目地址: https://gitcode.com/gh_mirrors/pr/proposal-set-methods proposal-set-methods是JavaScript中一个重要…

2026/11/15 3:52:46 阅读更多 →
5分钟打造专业音乐播放器:foobox-cn美化指南让foobar2000焕然一新

5分钟打造专业音乐播放器:foobox-cn美化指南让foobar2000焕然一新

5分钟打造专业音乐播放器:foobox-cn美化指南让foobar2000焕然一新 【免费下载链接】foobox-cn DUI 配置 for foobar2000 项目地址: https://gitcode.com/GitHub_Trending/fo/foobox-cn 厌倦了千篇一律的音乐播放器界面?想要一个既美观又实用的个性…

2026/11/12 16:52:29 阅读更多 →
Redis Stream深度解析:从消息队列到数据流的架构演进与实践指南

Redis Stream深度解析:从消息队列到数据流的架构演进与实践指南

1. 项目概述:从消息队列到数据流,Redis Stream的定位演变 如果你之前用过Redis的List做简单的消息队列,或者用过Pub/Sub做发布订阅,那你肯定遇到过一些头疼的问题。用List做队列,一个消息被一个消费者取走就没了&#…

2026/11/12 16:53:06 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/11/17 8:22:52 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/11/17 12:46:04 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/17 12:46:04 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/11/17 11:26:33 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/11/17 12:46:05 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/11/17 12:46:05 阅读更多 →

日新闻

周新闻

月新闻