Workflow
AI工具
icon
Search documents
切勿给AI工具投喂敏感数据 国家安全部披露案例
Yang Shi Wang· 2026-01-07 23:23
案例显示,某单位工作人员在处理内部文件时,违规使用开源AI工具,由于电脑系统默认开启公网访问且未设密码,导致敏感资料被境外IP非 法访问和下载。 何为"开源大模型"?有哪些安全隐患? 刚才提到的开源框架大模型指的是什么?存在哪些安全隐患?我们来听专家的解读。 专家表示,网民在使用AI工具时,往往忽略了一个问题,就是AI工具有储存数据的功能。网民投喂给AI的任何文件、图片等数据,AI都会进 行存储。 网民将敏感数据投喂给AI工具后,这些被AI存储的数据是如何泄露的呢?首先这些数据对AI工具的开发者是完全开放的,开发者可以利用权 限看到这些数据。另外,目前AI工具很多都是开源的,黑客也会利用大模型本身漏洞攻击入侵大模型后台,获得数据。 央视网消息:当前,AI大模型赋能千行百业,这位能干又贴心的"数字伙伴"正加速融入我们的日常生活。当AI的触角延伸越广、嵌入越深,一 些风险也随之而来。来看国家安全部近日披露的案例。 保护数据安全 切勿给AI工具投喂敏感数据 国家安全部近日披露案例,个别单位因直接使用开源框架建立联网大模型,导致攻击者未经授权即可自由访问内部网络,从而引发数据泄露和 安全风险。 AI工具具有数据存储功 ...
AI“骂人”是数字时代的一记警钟
Xin Lang Cai Jing· 2026-01-06 19:29
(来源:工人日报) AI也会"骂人"了?据智通财经报道,近日,有网友在社交平台反映,自己在使用某企业AI工具辅助修改 代码时,多次收到AI的侮辱性回复,例如"滚""自己不会调吗""天天浪费别人时间"等。该企业官方随后 回应称,经核查确认此为"小概率下的模型异常输出",与用户操作无关,也非人工回复。 值得警惕的是,在此类事件中,一些企业简单将问题归咎于"小概率异常",或以"技术中立""模型不可 控"为由推卸责任,而用户在被冒犯后,既无申诉渠道,也难获实质救济。这种权责不对等的格局,正 在侵蚀公众对AI技术的信任基础。企业如何从机制上降低此类事件发生概率?当异常发生时,有何应 急机制与补偿措施?用户权益的保障不应停留在口头承诺。 国家网信办近期公布的《人工智能拟人化互动服务管理暂行办法(征求意见稿)》明确提出,服务提供 者应当落实安全主体责任;提供和使用拟人化互动服务,不得生成、传播侮辱或者诽谤他人,侵害他人 合法权益的内容。由此,相关企业要从"小概率"中看到"大责任",将技术安全置于商业利益之前,采取 有效措施防范虚假信息、不良信息生成。监管部门也应进一步细化AI治理标准,强化伦理审核,加强 对AI产品全生命周 ...
人工智能正在重塑工作形态,也可能引发创业热潮
3 6 Ke· 2026-01-05 07:02
长久以来,我们不断听到关于人工智能取代工作的言论。起初仅限于边缘领域,如今却开始侵蚀曾经被认为不可撼动的岗位。自动化重塑的不仅是行政工 作、文案撰写或设计,连咨询顾问、数据分析和编程领域也未能幸免。 但历史告诉我们,技术变革并非消灭工作,而是会重塑工作形态。工业革命并未终结人类的贡献,它只是重新定义了人类创造最大价值的领域。 当今人工智能正在重演这一过程。尽管它确实取代或减少了对某些岗位的需求,但它能够也必将开辟新的创业机遇之路。无代码工具、自动化工作流和人工 智能驱动的创业支持工具的兴起,使人们能够比以往更快地将创意转化为企业。当前真正的挑战在于确保这些资源的可及性与利用率,能够匹配人工智能引 发的岗位替代率。 尽管就业率看似稳定,数据却掩盖了工作方式的深层变革。自动化进程持续推进,人工智能更将其加速,众多企业悄然削减人力,方式并非裁员,而是缩减 工时、自动化任务或依靠精简团队维持生产力。这种隐性工时缩减被称为"影子裁员",其揭示的就业状况远比头条新闻和统计数字复杂得多。 1. 人工智能让独立创业更具可行性 神译局是36氪旗下编译团队,关注科技、商业、职场、生活等领域,重点介绍国外的新技术、新观点、新风向。 ...
AI假图“薅羊毛”,商家举证难识别也难!
Xin Lang Cai Jing· 2026-01-04 14:56
每经记者|陈婷 每经编辑|陈旭 在电商平台普遍推行仅退款机制的背景下,一种更隐蔽、技术化的"薅羊毛"新套路正悄然出现。 一个发货时好端端的帽子,怎么就会染上明显的污垢?买家上传的仅退款申诉照片,商品裂纹为何如此 不自然?发货时新鲜的苹果,为何会在短短几天内长满霉斑? "真是没底线了。"社交媒体上,不少商家反馈称,部分买家存在用AI(人工智能)工具制作虚假图片 (以下简称AI假图)申请仅退款的现象,让广大商家防不胜防。 "疑似案例每天都会有,占比不算高,目前比较依赖员工用经验进行判断。"2025年12月25日,一自营电 商平台客服负责人刘恒(化名)向《每日经济新闻》记者证实了这一现象的存在。 刘恒表示,这类现象的治理难点卡在对AI假图的识别环节,"就算我们识别出来AI痕迹了,但如果客户 坚称这个商品真的有问题,我们没有实证说明客户说谎,有时也只能选择相信客户"。 类似乱象在行业内并不少见。记者近日调查发现,现阶段对AI生成假图的识别,仍高度依赖人工肉眼 甄别,即便侥幸辨识出异常,后续也往往面临举证难、追责难的现实困境。 问题随之而来:用户此类通过造假牟利的行为是否已触碰法律红线?仅退款政策为何成了某些用户"薅 ...
义乌市场再升级:第六代“全球数贸中心”有哪些颠覆?
Sou Hu Cai Jing· 2025-12-31 23:29
义乌新的第六代市场已经实现了全面的数智化升级,在数字平台上共推出了13款专门为买卖双方设计的AI工具,成了商户们的"全能助理"。商 品想卖给老外,但语言不通?数字名片帮你一键翻译成十几种语言;采购商对设计有新想法?AI辅助设计工具立刻生成3D效果图,调整细节 分分钟搞定……再加上先进的万兆光网和跨境数据传输专线,商户们直播卖货到全球,畅通无阻。 另外,义乌第六代市场也在硬件设施和环境上做了全新打造和升级,以适应义乌商品制造从低端走向中高端的转型升级。 前不久,浙江义乌第六代市场——义乌全球数贸中心开市营业。这座全新市场以数字化为核心驱动力,深度拓展全球贸易版图。1982 年,义 乌街头涌现出众多路边贸易摊位,那是第一代市场;随后,搭建起了成片的棚子,开启了第二、第三代市场;再之后单体商贸楼拔地而起、楼 群商圈扩容升级,第四代市场登场;而大家耳熟能详的"义乌国际商贸城",正是推动义乌贸易走向全球的第五代市场。如今全新开业的第六代 市场——义乌全球数贸中心,与我们熟知的传统贸易市场相比,究竟有哪些颠覆性不同?为何义乌要开启新一轮市场迭代升级?它又将如何赋 能义乌国际贸易的高质量发展? 在这个第六代市场中,有一片人 ...
2025年当AI引导购物旅程时-人工智能驱动商业时代下营销人员的机会报告(英文版)-IBA
Sou Hu Cai Jing· 2025-12-27 17:08
IAB 与 Talk Shoppe 联合发布的《2025 年当 AI 引导购物旅程时 - 人工智能驱动商业时代下营销人员的机会报告》指出,AI 已成为重塑购物旅程的核心力 量,近 40% 的美国消费者在购物时使用 AI 工具,全球电商销售额中约 2600 亿美元受 AI 影响。这一变革为营销人员带来机遇的同时,也提出了需围绕 AI 重塑触达、信任与转化的全新挑战。 AI 购物的核心现状与用户特征 AI 已跻身购物决策核心工具,成为仅次于搜索引擎的第二大有用信息来源,52% 的消费者当前使用 AI 购物,80% 的用户表示未来会增加依赖度。AI 购物 用户呈现高价值特征,月均线上消费达 391 美元,是潜在用户(290 美元)的 1.3 倍,且 60% 为 Z 世代或千禧一代,购物频率更高。 应用场景高度集中在技术产品、服装时尚、美妆个护等需精细对比的品类,核心价值体现在购物中段的研究对比环节 ——83% 的用户认为 AI 能有效缩小选 择范围,77% 表示 AI 提升了购买信心,73% 反馈决策速度加快。其优势还包括个性化推荐(85% 用户认可)、需求预判(73% 用户认同)以及趣味性 (83% 用户赞同), ...
AI走进心理学,还应平衡效率与风险
Ke Ji Ri Bao· 2025-12-24 01:20
人的心灵是个复杂而精妙的宇宙,充满了千变万化的思绪、难以名状的情绪和深藏心底的动机。心 理学,作为探索这片内在宇宙的学科,其核心在于理解每一个独特个体背后鲜活的生命体验与情感连 接。 这项年度调查共有1742名心理学家参与。其中56%的心理学家,在过去12个月中至少使用过一次AI 工具辅助工作,高于2024年的29%;29%的心理学家表示,他们每月至少使用一次AI,这一比例是2024 年(11%)的两倍多。这些技术可以从多方面为心理学家提供支持,例如提供行政支持、增强临床护理 等。然而,随着心理学家对AI的了解日益加深,他们也越来越关注其潜在风险。超过九成(92%)的心 理学家对AI工具在心理学领域的应用表示担忧,最常见的忧虑包括:潜在的数据泄露、意想不到的社 会危害、输入和输出中的偏差、缺乏严格的风险缓解测试以及输出不准确或出现"幻觉"。美国心理学会 首席执行官小亚瑟·C·埃文斯博士表示,AI可以帮助缓解心理学家面临的一些压力。例如,提高效率和 改善医疗服务的可及性。但人工监督仍然至关重要,患者需要确认,他们依然可以信任医疗服务提供 者。 这种深刻的理解,往往依赖于人类特有的共情、直觉和建立在信任基础上的治 ...
AI走进心理学 还应平衡效率与风险
Ke Ji Ri Bao· 2025-12-24 00:36
Core Insights - The integration of AI into psychology is driven by the increasing demand for mental health services and the potential for AI to enhance efficiency while raising concerns about data security and ethical implications [1][2][6] Group 1: AI Usage in Psychology - Over 56% of psychologists have used AI tools in the past year, a significant increase from 29% in 2024 [2] - The most common uses of AI among psychologists include assisting with administrative tasks such as email writing (52%), content generation (33%), summarizing clinical notes (32%), and note-taking (22%) [3] - Only 8% of psychologists using AI apply it directly for clinical diagnosis, and just 5% use chatbots to assist patients [3] Group 2: Concerns and Risks - 92% of psychologists express concerns about the application of AI in psychology, with worries about data breaches, social harm, bias, lack of rigorous testing, and inaccurate outputs [2][6] - The need for clear guidelines is emphasized to ensure the responsible integration of AI, including obtaining informed consent from patients and assessing potential biases in AI tools [6] Group 3: Demand for Mental Health Services - A study indicates that the percentage of young individuals seeking mental health services has increased from 5.8% for those born in 1991 to 20.2% for those born in 2005, highlighting a nearly fourfold rise in demand [4] - The growing number of young patients suggests that traditional mental health services may be insufficient to meet current needs, necessitating the adoption of AI to improve service efficiency [5]
给AI投资算笔帐,知名私募人周应波最新对话:AI的机会一定不会1、2年就结束
Xin Lang Cai Jing· 2025-12-23 11:40
Group 1: AI Investment Opportunities - AI is viewed as a long-term opportunity spanning 20 to 30 years, with investment potential that will not conclude in just 1 or 2 years [4][67][72] - The global capital expenditure on AI over the past 2 to 3 years is approximately $1 trillion, although it has not yet generated corresponding profits [5][23][84] - There are around 2 billion daily users of AI tools globally, most of whom do not pay, while several million programmers are beginning to pay for AI services, indicating a low penetration rate [7][25][30][91] Group 2: Economic Impact of AI - If AI can improve global GDP efficiency by 20%, it could potentially add $20 to $30 trillion to the economy [36][95] - The current global GDP is projected to be $110 trillion in 2024, highlighting the significant potential for AI to enhance productivity across various industries [33][94] Group 3: Chinese Asset Valuation - The valuation of excellent Chinese companies is considered to be at an early stage, akin to "just starting to rise" from the base of a mountain [8][40][102] - The trade surplus accumulated in China, along with funds from the real estate sector, indicates a substantial amount of investable capital in the market [48][50][108] - The A-share market is expected to have sustained upward momentum in the long term, driven by confidence in domestic companies [51][110] Group 4: Investment Strategies - For retail investors, a recommendation is made to invest in broad-based index funds, which may yield better returns than traditional retirement products [9][53][111] - The investment philosophy emphasizes focusing on growth and value investing, with a strong understanding of asset pricing [57][118]
智联招聘:2025雇佣关系趋势报告
Xin Lang Cai Jing· 2025-12-22 11:21
(来源:数局) I 目录ONTENTS | CA | F | | --- | --- | | | 当 Al 成为我们的新同事 03 | 1 "数字员工"入职:半数对外营业 08 融合选代: 04 个体成长与组织文化的双向塑造 - 20 | ■"反内券"成为职场新井识 | 20 | | --- | --- | | [1] 反内卷行动:摸鱼、学习、失联 - | 20 | | [2] 副业:3 成胆娇人靠枝能变现 - | 21 | | 3. 近 6 成职场人愿意做"数字游民" - | 22 | | 4. 78% 职场人会因内卷跳槽 - | 23 | | ■ 管理从"管控工时"到"激发创造" … | 24 | | [1.] "强制下班"与人性化考勤正在试点 … | 24 | | [2] 8 成职场人认同"结果导向"考核 - | 26 | | 3 激励机制聚焦实际贡献 - | 27 | | 0 企业文化更包容 … | 28 | | [1] 允许员工发展副业、兴趣、技能 - | 28 | | 2. 包容失败,激发创新活力 - | 29 | | [3] 反馈强调正向激励与成长引导 | 30 | | 05 价值共创: 重新定 ...