
A | 转自公众号:新西兰中文先驱Chinese_Herald 新西兰一名24岁男子与一名13岁女生发生性关系,在准备搭乘飞往中国的航班时被捕。 Advertise with us 这周三,尼尔森地方法院判处他9个月的居家监禁。 01 相识于溜冰场发生两次性关系 据法院文件显示,这名男子叫Kwan Loong Lee(音译:李关龙)。 2022年,当时24岁的李在尼尔森一家溜冰场认识了一名13岁的女子,并于去年5月与她发生性关系。 就在刚刚,DeepSeek开源了一个3B模型DeepSeek-OCR。

B | 虽然体量不大,但模型思路创新的力度着实不小。 从去年4月28日到5月26日期间,两人互动频繁,手机上共有7093 条互动信息。 众所周知,当前所有LLM处理长文本时都面临一个绕不开的困境:计算复杂度是平方级增长的。序列越长,算力烧得越狠。 警方表示,李“清楚地知道”女生还只是一名学生,因为“学校”一词在互动信息中出现了 55 次。

C | 去年5月1日深夜,李给女生发短信称,有人威胁以恋童罪名向警方举报他,女生询问原因,李告诉她这是“因为我正在和未成年人约会”。 于是,DeepSeek团队想到了一个好办法。既然一张图能包含大量文字信息,而且用的Token还少,那不如直接把文本转成图像?这就是所谓的“光学压缩”——用视觉模态来给文本信息“瘦身”。 而OCR正好天然适合验证这个思路,因为它本身就是在做“视觉→文本”的转换,而且效果还能量化评估。 导致李第一次被指控的事件发生在当晚晚些时候,当时李和女生在他的车里约会,他们开始接吻,双方发生了性行为,之后女生回家了。 论文显示,DeepSeek-OCR的压缩率能达到10倍,OCR准确率还能保持在97%以上。

D | 然后,5月25日凌晨,他们再次见面,并再次在他的车内发生性关系。 啥意思呢?就是说,原本需要1000个文本Token才能表达的内容,现在只用100个视觉Token就搞定了。即使压缩率拉到20倍,准确率也还有60%左右,整体效果相当能打。 但女生发现李的安全套破裂了,这让女生担心自己可能会怀孕。 OmniDocBench基准测试结果显示: 只用100个视觉Token,就超过了GOT-OCR2.0(每页256个Token)的表现; 用不到800个视觉Token,干翻了MinerU2.0(平均每页超过6000个Token)。

E | 02 东窗事发准备逃往中国 第二天,女生告诉了学校辅导员,辅导员通知了她的父母,然后父母报了警。 在实际生产中,一块A100-40G显卡就能每天生成超过20万页的LLM/VLM训练数据。 当天晚些时候,女生还给李发了一条信息:“我爸爸发现了,他想报警,所以你最好远离我和我的家”。 李没有回应,但在5天后,也就是5月31日,他在奥克兰国际机场准备登上飞往中国的飞机时被捕。

F | 20个节点(160块A100)直接飙到每天3300万页。

G | 女孩的父亲对此非常生气,他在读受害人影响陈述时哭了,他说,他们全家人遭受的情感伤害是“无法估量的”。他有酗酒问题,整晚都哭着入睡,责怪自己不是一个好父亲。 女生的母亲也说,她的女儿失去了童年和纯真,她在性和情感上都被利用了。 DeepSeek-OCR由两个核心组件组成: DeepEncoder(编码器):负责图像特征提取和压缩; DeepSeek3B-MoE(解码器):负责从压缩后的视觉Token中重建文本。 李在保释期间继续与女生联系,女生父亲表示考虑全家将搬到奥克兰,以尽可能远离李。 让我们来重点说说DeepEncoder这个引擎。 03 判处9月居家监禁赔3000刀 检察官表示,这起犯罪行为是有预谋的诱骗行为,并且持续很长一段时间。 由于两人之间存在着继续接触风险,他主张将李列入儿童性犯罪者登记册里。 最终,法官认为,女生年龄小,无法正确理解和处理一段关系。无论她怎么想……法律都有义务保护她免受伤害。

H | 它的架构很巧妙,通过把SAM-base(8000万参数)和CLIP-large(3亿参数)串联起来,前者负责“窗口注意力”提取视觉特征,后者负责“全局注意力”理解整体信息。

I | 法官还认为,被告在明知被威胁举报恋童癖,依然和女生在短时间内发生两次性行为。

J | ” 最终,考虑到李是初犯,无犯罪前科,法官判处了他9个月的居家监禁,同时将他的名字记录在儿童性犯罪者名单中。

K | 李还被命令不得与受害者女生,或与任何16岁以下的人来往,并需向受害者女生支付3000纽币的精神伤害赔偿。 原文链接 相关阅读: 上海教师出轨16岁学生后,网上一堆“张老师”,离谱! 与15岁男孩发生性关系,新西兰20岁女子被判刑 与女学生“关系不当”,奥克兰一名女老师被吊销教学资格 注:本文为编译/原创,欢迎转发分享;但严禁复制等未经授权的非法使用。 中间还加了个16×卷积压缩器,在进入全局注意力层之前把Token数量大幅砍掉。违反上述声明者,本网将追究其相关法律责任。使用授权请联系[email protected]。 chineseherald.co.nz All Rights Reserved 版权所有 (责编:twinkle) 来源 - 先驱自媒 相关内容 XBB新冠疫苗下月初上市,哪些人群可以接种? 好天气Say拜拜! 本周末新西兰大部分地区有暴雨和强风 准备好!接下来九周,1号高速此段大封路! 数百条肥美鲷鱼冲上奥克兰海滩,渔业局:鱼没问题,但别吃 与前总理们相比,Christopher Luxon上任后人气没有提升,原因何在? 夜间奥克兰西区发生两起逮捕事件,两人受重伤,四人被拘留 奥克兰Ellerslie华人夫妇遇害案:两名被告面临新的指控 新西兰儿童部被严厉警告:“完全不可接受”。 举例而言,一张1024×1024的图像,会被切成4096个patch token。但经过压缩器处理后,进入全局注意力层的Token数量会大幅减少。 这样的好处是,既保证了处理高分辨率输入的能力,又控制住了激活内存的开销。 而且DeepEncoder还支持多分辨率输入,从512×512的Tiny模式(64个Token)到1280×1280的Large模式(400个Token),一个模型全搞定。 目前开源版本支持的模式包括原生分辨率的Tiny、Small、Base、Large四档,还有动态分辨率的Gundam模式,灵活性拉满。 解码器用的是DeepSeek-3B-MoE架构。 别看只有3B参数,但采用了MoE(混合专家)设计——64个专家中激活6个,再加2个共享专家,实际激活参数约5.7亿。这也让模型既有30亿参数模型的表达能力,又保持了5亿参数模型的推理效率。

L | 解码器的任务就是从压缩后的视觉Token中重建出原始文本,这个过程可以通过OCR风格的训练被紧凑型语言模型有效学习。 数据方面,DeepSeek团队也是下了血本。 从互联网收集了3000万页多语言PDF数据,涵盖约100种语言,其中中英文占2500万页。 数据分两类:粗标注直接用fitz从PDF提取,主要训练少数语言的识别能力;精标注用PP-DocLayout、MinerU、GOT-OCR2.0等模型生成,包含检测与识别交织的高质量数据。 对于少数语言,团队还搞了个“模型飞轮”机制——先用有跨语言泛化能力的版面分析模型做检测,再用fitz生成的数据训练GOT-OCR2.0,然后用训练好的模型反过来标注更多数据,循环往复最终生成了60万条样本。 此外还有300万条Word文档数据,主要提升公式识别和HTML表格解析能力。 场景OCR方面,从LAION和Wukong数据集收集图像,用PaddleOCR标注,中英文各1000万条样本。 DeepSeek-OCR不仅能识别文字,还具备“深度解析”能力,只需一个统一的提示词,就能对各种复杂图像进行结构化提取: 图表:金融研究报告中的图表可以直接提取为结构化数据; 化学结构式:识别并转换为SMILES格式; 几何图形:对平面几何图形进行复制和结构化解析; 自然图像:生成密集描述(dense captions)。 这在STEM领域的应用潜力巨大,尤其是化学、物理、数学等需要处理大量符号和图形的场景。 第一作者Haoran Wei此前曾供职于阶跃星辰,期间发布并开源了GOT-OCR2.0系统 值得注意的是,DeepSeek团队在论文里还提出了一个脑洞大开的想法——用光学压缩模拟人类的遗忘机制。 人类的记忆会随时间衰退,越久远的事情记得越模糊。DeepSeek团队想,那能不能让AI也这样?于是,他们的方案是: 1. 把超过第k轮的历史对话内容渲染成图像; 2. 初步压缩,实现约10倍的Token减少; 3. 对于更久远的上下文,继续缩小图像尺寸; 4. 随着图像越来越小,内容也越来越模糊,最终达到“文本遗忘”的效果。 这就很像人类记忆的衰退曲线,近期信息保持高保真度,久远记忆自然淡化。

M | 虽然这还是个早期研究方向,但如果真能实现,对于处理超长上下文将是个巨大突破——近期上下文保持高分辨率,历史上下文占用更少计算资源,理论上可以支撑“无限上下文”。 简言之,DeepSeek-OCR表面上是个OCR模型,但实际上是在探索一个更宏大的命题:能否用视觉模态作为LLM文本信息处理的高效压缩媒介? 初步答案是肯定的,7—20倍的Token压缩能力已经展现出来了。 当然,团队也承认这只是个开始。单纯的OCR还不足以完全验证“上下文光学压缩”,后续还计划开展数字–光学文本交替预训练、“大海捞针”式测试,以及其他系统性评估。 不过不管怎么说,这在VLM和LLM的进化路上,又多了一条新赛道。 去年这个时候,大家还在卷怎么让模型“记得更多”。

N | 今年DeepSeek直接反其道行之,不如让模型学会“忘掉一些”。 确然,AI的进化,有时候不是做加法,而是做减法。小而美,也能玩出大花样,DeepSeek-OCR这个3B小模型就是最好的证明。 GitHub主页:http://github.com/deepseek-ai/DeepSeek-OCR 论文地址:https://github.com/deepseek-ai/DeepSeek-OCR/blob/main/DeepSeek\_OCR\_paper.pdf 模型下载:https://huggingface.co/deepseek-ai/DeepSeek-OCR 本文来自微信公众号:APPSO (ID:appsolution)。

o |
Current article:http://mq944.recuigoutoubaozukai.pics/list_dvqn/kwu.html
Published on:05:30:31
关于我们 | 我的网站 版权所有
Copyright ? 2019 我的网站 All Rights Reserved