CrossPL: Evaluating Large Language Models on Cross Programming Language Code Generation

文章主要内容总结

本文提出了首个用于评估大型语言模型(LLMs)生成跨编程语言(CPL)互操作代码能力的基准——CrossPL。该基准围绕进程间通信(IPC)构建,包含1982个任务,覆盖6种主流编程语言(Java、Python、JavaScript等)和7种典型IPC技术(HTTP、TCP、gRPC等)。

为构建CrossPL,作者通过以下步骤实现:

  1. 分析19169个多语言GitHub仓库,使用156个手工设计的有限状态机(FSMs)识别真实世界中的IPC模式;
  2. 开发基于LLM的自动化管道,用于提取CPL代码片段、生成任务指令并验证功能正确性;
  3. 对20个代表性LLMs(包括14个通用模型和6个代码专用模型)进行评估,采用FSM-based验证方法。

评估结果显示,即使表现最佳的模型在CPL场景下也存在明显不足,且在不同编程语言和IPC技术上的性能差异显著。研究揭示了现有LLMs在跨语言代码生成中的局限性,强调了针对性优化的必要性。

创新点

  1. 首个专注于CPL互操作代码的基准:CrossPL是首个系统性评估LLMs生成跨编程语言IPC代码能力的基准,填补了现有研究空白。
  2. 基于FSM的接口表征:基于官方IPC技术规范设计156个FSMs,精确捕捉不同IPC场景的状态转换逻辑,为代码检测和验证提供结构化工具。
  3. 自动化基准构建流程:开发基于LLM的自动工作流,实现代码片段提取、任务指令生成和验

相关新闻

Linux实时控制实战:PREEMPT_RT与Xenomai双内核方案对比

Linux实时控制实战:PREEMPT_RT与Xenomai双内核方案对比

搞工控和机器人开发的朋友,应该都遇到过这种纠结:一边是Linux强大的生态、文件系统、网络协议栈,一边是运动控制、数据采集对响应时间近乎苛刻的要求。用通用Linux做实时控制,总觉得心里没底;完全抛弃Linux用裸机或者专…

2026/10/20 19:35:08 阅读更多 →
线性回归实战全解析:从最小二乘法到模型诊断与部署

线性回归实战全解析:从最小二乘法到模型诊断与部署

1. 从"#线性回归"说起:这不只是一个入门算法如果要在机器学习里找一个所有人都绕不开的起点,线性回归大概是当之无愧的那个。哪怕今天深度学习、树模型、大模型铺天盖地,线性回归依然是处理回归问题的第一选择。原因很简单&#xf…

2026/10/20 19:35:08 阅读更多 →
增长停滞的解法:5步诊断框架,用数据定位产品不增长的根因

增长停滞的解法:5步诊断框架,用数据定位产品不增长的根因

做增长的朋友最怕听到的词,大概就是"增长停滞"。前几天听了一档增长主题播客,主播抛出的问题很尖锐:你的产品为什么突然不增长了?这期内容核心是一套5步诊断框架,专门用来应对那种"昨天数据还好好的&am…

2026/10/20 19:34:06 阅读更多 →

最新新闻

知识蒸馏进阶:变分信息蒸馏VID原理与实战

知识蒸馏进阶:变分信息蒸馏VID原理与实战

1. 从知识蒸馏的瓶颈说起如果你这两年一直在跟进模型压缩和知识蒸馏方向,大概率会有一种感觉:传统KD(Knowledge Distillation)那套“软标签KL散度”的玩法,在早期分类任务上确实好使,但一旦碰到特征维度高、…

2026/10/20 22:18:29 阅读更多 →
5秒进3秒出片:AI视频风格化与V2V技术实测解析

5秒进3秒出片:AI视频风格化与V2V技术实测解析

1. 这个标题背后的需求,其实没你想的那么简单先问一句:你说的“出片”,到底是哪种“出片”?我拿这个标题去问了一圈做短视频的朋友,得到的答案五花八门。有人说我要的是“我拍一段真人视频,AI直接给我变成动…

2026/10/20 22:18:29 阅读更多 →
Notepad++下载安装与配置全攻略:避坑指南与效率提升技巧

Notepad++下载安装与配置全攻略:避坑指南与效率提升技巧

我电脑里常年躺着好几个文本编辑器,但要说最顺手、打开最快、从大学写代码到现在写博客都离不开的那个,还得是Notepad。这软件太出名了,以至于很多人觉得“下载安装还有什么好说的,官网一搜不就有了吗”。但我在实际工作和帮朋友弄…

2026/10/20 22:18:29 阅读更多 →
零代码打造机械臂遥控器:智能体开发实录与硬件控制边界探索

零代码打造机械臂遥控器:智能体开发实录与硬件控制边界探索

1. 从"一行代码没写"说起:这个标题到底在讲什么第一次看到"我一行代码没写,机械臂遥控器做出来了"这个标题,我的反应是:要么是标题党,要么背后有一套相当成熟的智能体开发范式在支撑。仔细拆解之后…

2026/10/20 22:18:29 阅读更多 →
AMD收购Xilinx后Vivado工具链稳定性与迁移策略解析

AMD收购Xilinx后Vivado工具链稳定性与迁移策略解析

1. 从一句调侃说起:AMD与Vivado之间到底什么关系“AMD Ross没有介入Vivado的私生活”这句话第一次看到的时候,我正蹲在一个FPGA开发群里看人吐槽工具链。乍一看像八卦标题,实际上是个技术梗——它调侃的是AMD收购Xilinx之后,很多人…

2026/10/20 22:18:29 阅读更多 →
多Agent系统架构设计与工程实践:从单Agent瓶颈到Agent蜂群

多Agent系统架构设计与工程实践:从单Agent瓶颈到Agent蜂群

1. 多Agent系统到底在解决什么问题1.1 从单Agent的瓶颈说起做过Agent项目的人大概都有这种体会:单个Agent在简单任务上表现还行,一旦任务链路变长、涉及的工具变多、需要同时处理的信息源超过三四个,它就开始“犯糊涂”了。具体表现包括&…

2026/10/20 22:17:20 阅读更多 →

日新闻

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
ESP32舵机控制指南:原理、多路驱动与避坑实战

ESP32舵机控制指南:原理、多路驱动与避坑实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
位移法实现一阶低通滤波:单片机ADC采样降噪实战

位移法实现一阶低通滤波:单片机ADC采样降噪实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/20 10:02:13 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/20 20:43:59 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/20 2:50:50 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 10:02:08 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:17 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:45 阅读更多 →