巧乐之   客厅
25-09-09T15:37:01

信息技术

迪奥发生数据泄露事件,公安网安部门:予以行政处罚

一是未通过数据出境安全评估、订立个人信息出境标准合同或通过个人信息保护认证,违规向法国迪奥总部传输用户个人信息。

二是向法国迪奥总部提供用户个人信息前,未向用户充分告知其个人信息境外接收方的处理方式,未取得用户“单独同意”。

三是未对收集的个人信息采取加密、去标识化等安全技术措施。

属地公安机关依据《个人信息保护法》规定,对迪奥(上海)公司依法予以行政处罚。

马斯克的星链频繁断网,中国卫星组网如何规避风险?

7月24日,星链因核心网络软件服务故障,导致美国、欧洲等全球6.1万用户断网2.5小时。星链官方承认系“内部关键软件故障”,马斯克致歉并承诺修复。

8月19日,全球服务中断信息聚合平台Downdetector记录到数千份中断报告,影响范围包括美国达拉斯、旧金山及南美、澳大利亚等地。此次故障恰逢T-Mobile推出“星链直连手机”服务次日,严重打击了新业务的市场信任。

宣传图里“花生上树”!良品铺子致歉

大图

对此事件,良品铺子回应称,由于公司在工作中的疏忽,在电商平台商品详情页中错误使用了由AI生成的图片素材,从而引发了不必要的误解和讨论。对此,公司向所有关心和支持良品铺子的朋友致以诚挚的歉意。

推动手机、汽车直连卫星!工信部发文

大图

AI幻觉合辑

我国算力规模全球第二,AI专利数占全球六成!这场发布会信息量很大

“十四五”时期我国数字基础设施实现长足发展。我国数字基础设施在规模、技术等方面处于世界领先地位,截至2025年6月底,5G基站总数达到455万个,千兆宽带用户达2.26亿户,算力总规模位居全球第二。

国产操作系统加速崛起,鸿蒙系统生态设备总量突破11.9亿台,人工智能专利数量占全球总量的60%。

Google 发现了一种新骗局,随后自己成为了该骗局的受害者

攻击者指示公司员工将外部应用连接到 Salesforce 实例,之后攻击者会要求员工输入 Salesforce 界面的八位数安全码。攻击者随后使用安全码访问该实例及其中存储的所有数据,窃取数据之后高价出售给买家。

MCP(Model Context Protocol)全面研究报告:一文讲清楚概念、实践与未来趋势

Anthropic于2024年推出了模型上下文协议(Model Context Protocol,简称MCP)这一开放标准,其目的是对AI模型与外部数据源、工具之间的交互方式进行规范。本报告整合多篇专业文章,对MCP的核心概念、架构设计、工作原理、开发实践以及应用场景展开全面解析,探究它在企业环境、开发者工具集成等领域的潜力,同时分析其未来的发展趋势与面临的挑战。MCP借助标准化的客户端 - 服务器架构,具备资源访问、工具调用、提示响应和采样反馈等能力,为打造更安全、更灵活、更强大的AI应用筑牢了根基。

大图

智能体技术应运而生,成为2025年人工智能发展的最重要趋势之一。

技术层面的安全保障是治理框架的核心。朱晓楠介绍了大多数技术公司目前认同的智能体响应和行为标准:即“可预测、可回溯、可区隔”。

大模型的幻觉主要包括事实性幻觉与忠实性幻觉。事实性幻觉指的是与事实不一致或存在事实捏造,比如说捏造论文出处或参考文献。忠实性幻觉指的是生成内容与用户指令不一致、上下文不一致或逻辑不一致,比如说前后逻辑矛盾。

前特斯拉 AI 负责人:随着 FSD 越来越好,神经网络同时也“吞噬”了自动驾驶的软件栈...

他举了一个在网上流传的视频:一群小孩子对着计算机说出他们想要的小游戏,AI 就直接把代码写出来,这被称作“Vibe 编程”,画面非常魔幻。他本人也亲身实践了这种 “兴之所至的编码”:不会 iOS 开发的他,通过对话 GPT-4,在周末就做出了一个简单的 iPhone 应用。另一个例子是他开发名为“MenuGen”(菜单图像生成)的应用:只需拍下餐厅菜单,AI 便生成菜品图片,方便他这种见菜名不知所云的顾客。这些项目的核心代码部分因为有 AI 参与反而不费吹灰之力,往往几小时就做出Demo。不过,Karpathy 也坦诚,将Demo变成真实产品仍需要做许多常规工作,例如接入用户认证、支付、部署等,这些琐碎环节目前还主要靠人工操作各种现成服务来实现。他吐槽说,为应用添加谷歌账号登录要按照文档点来点去,非常烦人,电脑在屏幕上告诉他该点击哪些按钮,这感觉很荒诞——“干脆你(计算机)自己来点得了!”。由此引出他的下一点思考:未来的软件基础设施应该更友好地支持 AI 代理来参与操作。

美商务部叫停「AI扩散规则」藏杀机!英伟达市值再破3万亿

与此同时,他们又出台了加强全球半导体出口管制的新措施,这些限制可谓是又准又狠。具体包括以下三点:
1. 发布指导意见,在世界任何地方使用华为AI芯片,都违反美国出口管制。 
2. 发布指导意见,警告公众当美国AI芯片被用于训练/推理中国AI模型时的潜在后果。
3. 向美国公司发布关于如何保护供应链免受转移策略影响的指导意见。

投入数亿美元的大模型“对齐”,脆弱得像饺子皮

图灵奖得主、人工智能三巨头之一的约书亚·本吉奥(Yoshua Bengio)曾说过:“人工智能对齐不仅是技术问题,也是伦理和社会问题。如果一个负责应对气候变化的AI得出‘消灭人类是最有效解决方案’的结论,我们就必须确保它不会这么做。”

Manus“翻车”,下一个DeepSeek还有多远?

对于Manus来说,其口碑则在一天内就经历了戏剧性的反转。有测试者表示,测试期可能存在资源不足的问题,一个任务代理需要花费数小时,也会出现错误操作。上海某创投机构的一位AI投资人向《中国新闻周刊》透露,Manus本质上是一个较为成熟、操作性较强的智能体,不开源反而使用自媒体爆发式宣传、邀请码饥饿营销等方式造势,“很败路人好感”。事实上,它仍基于底层大模型调用工具来实现每一个具体指令,也就是说,其在模型能力方面没有突破,只是将若干工作流封装起来形成了产品级的应用。

多位受访者指出,模型能力仍是AGI的基石,在大模型中没解决的问题,智能体以及以后的AGI也绕不开。其中最显著的当数模型“幻觉”。幻觉是指大模型在缺乏真实依据的情况下,会生成错误甚至完全虚构的内容。使用大语言模型时,除了前述的时间理解问题外,用户还经常会遇到大模型编造参考文献、伪造数据的现象。多模态模型中则会出现视频内容明显违反物理规律等问题。

“大语言模型倾向于编造一些东西,而且通常表现得信心满满。”美国佐治亚理工学院理论计算机科学学院教授桑托什·温帕拉专注于AI幻觉研究,他向《中国新闻周刊》表示,各种大语言模型在参考文献方面犯错的概率为30%—90%。目前幻觉产生的机理还不明晰,一个根本原因可能是,大语言模型通过压缩数据来工作,在构建数据之间的关系时必然会丢失一些信息,在重建时就可能因为缺少细节而给出完全偏离主题的答案。(信心时概率,在该犹豫的时候信心满满,这是丢弃了概率信息,这是量子计算模型可以考虑承接的部分——编者注)

腾讯元宝连夜修改用户协议!“霸王”条款冲上热榜,你的内容到底谁说了算?

游云庭则表示,根据我国《著作权法》的规定,人创作的内容才受著作权保护,所以总体上说,人工智能输出的内容版权属于公有领域。

实际上,别说 AI,现在二次元改图或者仿写小说,原创者的权益都很难被保护。有业内人士指出,除了很低劣粗制滥造的抄袭,高级一点都很难被认定侵权。

为什么同一个汉字,有两个编码?比如说这两个字:行 ⾏

在AI模型中,温度参数(temperature)是一个控制生成文本随机性的关键因素。它主要影响模型生成结果的多样性。

高温度值:增加生成结果的随机性和多样性,但可能增加幻觉的可能性。
低温度值:减少生成结果的随机性,使生成的文本更加确定性和可预测,从而减少幻觉的可能性。

万字解构“幻觉陷阱”:大模型犯的错,会摧毁互联网吗?

过去我们可能还有一种共识,虽然人们存在不同的价值观,但事实是唯一的。如今,人们对于事实的认定也已经变得模糊。在后真相时代,不仅存在价值观的差异,对“事实”本身也有了不同的理解。

此外,理性思维的败退也是一个重要因素。我认为基本有三个源流:
1.很多人质疑推理本身,认为所有推理都只是合理化的过程。
2.有人认为科学也只是一种“信仰”,是主观建构的。
3.还有人相信客观性是一种幻觉,不存在客观真理。

小心,AI开始胡说八道

在高频使用豆包、DeepSeek,以及OpenAI的o1等AI工具后,小昭的发现是,豆包的幻觉问题不算明显,语言相对平实;OpenAI的o1对中国国情不够熟悉,“国内素材没有那么充足”。而DeepSeek是其中最好用的工具,语言专业又生动,但DeepSeek编造细节的情况却是最严重的。

小昭等“AI原住民”的感受并不虚妄。在Github上一个名为Vectara大模型幻觉测试排行榜中,2025年1月发布的DeepSeek R1,幻觉率高达14.3%。这一数字远高于国际先进大模型,例如,OpenAI的GPT-4o幻觉率为1.5%,马斯克的Grok幻觉率为4.6%。

AI与爬虫大战,互联网正在逐渐封闭

如今,爬虫已经无处不在。这种看不见的“网络地铁”日夜不停地在各个网络站点之间传递信息。目前它们产生的流量已占据互联网总流量的一半,很快还会超过人类产生的流量。

自2023年年中以来,超过25%的高质量数据所在网站都设置了爬虫访问限制。然而,许多限制很容易被绕过。

AI智能体挑战个人隐私

北京汉华飞天信安科技有限公司总经理彭根从事手机端侧研究多年,他称,AI手机诞生后,原本为了帮残障人士“打破障碍”的无障碍权限正变成AI手机里的“上帝模式”,能够打破各个App之间的沙箱隔离机制,具有极高的权限。“便利的同时也孕育了更大的危机。”彭根说,在无障碍模式下,AI手机的隐蔽式调用可能反而造成安全和隐私风险,乃至被不法分子使用,作为窃取用户信息的工具。

抖音:看看【如来分享的作品】# AI 如何在人工智能的末世幸存

瞭望智库:认知战 - 改变目标人群思维方式,并借此改变其行为方式的斗争样式

在信息化时代的认知战中,算法胜过战法。

光明网:你的床头灯,可能正在“偷听”!

B站【高通被曝64款芯片存在漏洞,还是后门? 可能就是一纸之隔而已#人间清醒 #芯片 #科技 #华为】

比特币 落魄赵长鹏

张宏波:我用十几年时间自创了两门流行的编程语言,Rescript和MoonBit

黎巴嫩又发生爆炸!这次是对讲机引爆!

你的耳朵一直在偷偷做傅里叶变换,你的脑子却学不会

显卡敢比电脑还贵一倍,虚拟现实和人工智能是一体两面

/ 3 页 下一页