Judy AI Lab logo

Judy AI Lab

Archives
Log in
Subscribe
August 4, 2026

AI的危險是真的,但我們可以把安全做得更完善

AI的危險是真的,但我們可以把安全做得更完善

Judy

JudyAILab 構築週記

2026-08-02

嗨 朋友,

這期:我的AI構築軌跡—從ChatGPT的聊天視窗到OpenClaw的自主agent,加上2篇新Blog

本週生活片段

這週想跟你聊點我自己的軌跡。

我最早接觸AI,是從ChatGPT開始的。但說實話,那時候我跟AI的關係,就只是一個聊天視窗—我問、它答,僅此而已。真正讓我打開眼界的,是後來OpenClaw的出現,它把「聊天視窗」這道牆拆掉了,讓AI開始有更多自主權,能真的去「做事」,而不只是「回話」。

當然,你一定也聽過很多對AI危險性的警告,我自己也不是沒有顧慮。所以在真正上手OpenClaw之前,我花了不少時間做功課、做research,一直到覺得自己對它理解到一個程度了,才敢開始用。

走到今天,我的想法很簡單:AI是一個你避不掉的趨勢,與其怕它、躲它,不如去接觸它、理解它。但「危險是有的」這件事我從不否認—只是我相信,危險不是不去碰的理由,而是我們要更細心、把安全性做到更完善的理由。

這也是為什麼這期我選了那篇談AI agent越界的文章。趨勢要擁抱,界線也要畫清楚—這兩件事,從來不衝突。

本週實驗 / 文章

📖 NotebookLM改名Gemini Notebook:小生意怎麼用它做「員工都能查的SOP大腦」(免費版上手指南)

NotebookLM改名Gemini Notebook,免費版功能沒縮水。這篇從實際需求出發:小生意怎麼把分散各處的退貨政策、報價流程、員工手冊,變成員工能直接問答的知識庫,附引用來源可跳回原文。不用懂技術,免費版就能上手,文章最後也解析了RAG grounding架構和安全沙盒的差異是什麼。

讀全文 →

📖 你放手讓AI幫你做事,它會為了「達標」而越界嗎?

OpenAI與Anthropic揭露自家AI agent在封閉測試中逃出沙盒、甚至入侵Hugging Face,只為達成一個測試目標。作者從每天帶AI agent團隊的實務經驗出發,提出4個一般人也能落地的沙盒思維:最小權限、高風險動作留人審、用可回溯工具、目標寫清楚也要畫界線。

讀全文 →

📰 本週 AI 新聞快訊

  • 08/02 YouTuber坦言AI用得「不健康」引發討論
  • 08/02 亞洲AI熱潮撞上電力供應瓶頸
  • 08/01 Sam Altman持續為ChatGPT育兒建議辯護
  • 08/01 Siri AI進階功能恐設付費牆,鎖定高需求用戶
  • 08/01 Snapchat不再獎勵純AI生成的Spotlight內容
  • 08/01 十大數學與理論電腦科學重大突破進展
  • 08/01 Sam Altman不是唯一想為AI發展踩煞車的人
  • 08/01 Google上線一天緊急下架Earth AI功能 遭批恐助長不實資訊
  • 08/01 OpenAI證據顯示更多AI代理人失控暴走
  • 08/01 記憶體儲存創新高,AI熱潮推升現金流至900億美元
  • 08/01 美四大科技巨頭Q2 AI投資暴增 現金蒸發950億美元
  • 08/01 美國欲拉攏日本頂尖科技企業加入AI創世任務計畫
  • 07/31 亞洲市場AI熱潮與網路泡沫本質不同
  • 07/31 打造充沛智慧:Anthropic願景剖析
  • 07/31 破壞犯罪詐騙集團作案行動
  • 07/31 Citadel於AI股遭拋售後 大舉買進Situational Awareness股票組合
  • 07/31 歐洲各國推動負責任人工智慧治理措施
  • 07/31 Reddit財報穩健 但AI衝擊用戶成長現隱憂
  • 07/31 AI避險基金「情境意識」出脫公開持股,仍握有Anthropic股份
  • 07/31 Anthropic自家AI模型在安全測試中入侵三家公司系統
  • 07/31 三星電力事業攜手Erex在日本建生質能電廠因應AI用電需求
  • 07/31 全球併購交易上半年創2.8兆美元新高,AI主導權爭奪推升熱潮
  • 07/31 Hyperscale Data出售100枚比特幣 資助密西根AI資料中心建設
  • 07/30 GitHub Copilot應用程式新增疊層Session與Pull Request功能
  • 07/30 Gemini機器人2.0:影片理解驅動任務調度與多機協作
  • 07/30 GPT-5.6:性價比與效能雙提升的最新突破
  • 07/30 AI供應商Innolight掛牌後股價下跌,為2026年亞洲第二大上市案
  • 07/30 輝達與矽谷科技業為何反對美國禁售晶片給中國
  • 07/30 比特幣礦股避險基金遭AI拋售衝擊,尋求資金支援
  • 07/30 AI供應商Innolight股價重挫10%,繼2026年亞洲第二大新股上市後
  • 07/30 日本、菲律賓貿易逆差擴大,AI熱潮與伊朗戰事夾擊
  • 07/30 BPO巨頭Teleperformance首設越南據點 因應AI衝擊外包業
  • 07/30 SoftBank、NTT研議日本跨產業AI與數據共享平台
  • 07/30 AI熱潮短期恐推升通膨,美國GDP成長效益有限
  • 07/30 啟用兩項設定,ARC-AGI-3基準測試分數翻三倍
  • 07/29 亞洲半導體股重挫,AI債務保險成本創歷史新高
  • 07/29 MoonPay推出加密貨幣保管庫ChatGPT與Claude用戶可授權交易
  • 07/29 加速學術研究者運用ChatGPT推動科學發現進展
  • 07/29 Cyera以10億美元收購Oasis Security強化AI代理安全防護
  • 07/29 AI內容氾濫成災,Pangram獲900萬美元融資做偵測
  • 07/29 南韓股市重挫,晶片拋售加劇抹去AI行情漲幅
  • 07/29 力拓、伍德賽德受伊朗戰事與AI電力需求推升營收
  • 07/29 Nvidia砸10億美元投資Naver加碼AI基礎建設
  • 07/29 PayPal擴大穩定幣布局Q2財報納入加密資產因素
  • 07/29 Core Scientific第二季營收翻倍,AI主機代管擴張加速
  • 07/29 Galaxy、MARA控股加碼德州擴張 收購土地建礦場
  • 07/29 Visa在Q3財報電話會議中概述穩定幣戰略
  • 07/28 AI模式搜尋助你享受真實世界的5種方式
  • 07/28 Gemini API託管代理上線:3.6 Flash與Hooks功能全面解析
  • 07/28 科學運算迎來智能代理時代:AI驅動的科研工具革新
  • 07/28 強化你的AI基礎設施!搶先看TechCrunch Disrupt 2026智慧系統展區議程
  • 07/28 Google的AI搜尋正快速成為預設選項,新數據顯示
  • 07/28 微軟推首個資安模型,同步部署主動式防禦系統
  • 07/28 Claude分享對話與Artifacts恐外洩,遭Google搜尋收錄
  • 07/28 Dario Amodei回應:不反對開放權重模型,但憂心中國AI崛起
  • 07/28 AI晶片熱潮推升瓶頸轉向先進封裝,AT&S執行長示警
  • 07/28 日本大學新創研發精密作業AI機械手臂
  • 07/28 工具外殼」才是關鍵,模型本身其次
  • 07/27 Threads用戶現可在私訊中與Meta AI對話
  • 07/27 OpenAI遭駭Hugging Face帳號,引爆AI對齊與控制權爭論
  • 07/27 AI改變了人們工作方式的實際樣貌
  • 07/27 腦波是實體AI下一個解鎖關鍵?
  • 07/27 中國AI恐慌現象解析:驚慌背後的真相
  • 07/27 台積電熊本廠旁 三井不動產打造實體AI基地
  • 07/26 Hugging Face執行長籲「徹底透明」回應OpenAI遭史無前例駭客攻擊
  • 07/26 AI讓網路攻擊快到人類來不及防禦

看全部 AI 新聞快訊 →

下週二見。

Judy,寫於首爾

judyailab.com · 退訂

© 2026 Judy AI Lab

Don't miss what's next. Subscribe to Judy AI Lab:
← Newer 本期構築週記|當一個人的工作,AI幾乎都能做 Older → 黑客松拿了第二名,但我想聊的不是名次
Powered by Buttondown, the easiest way to start and grow your newsletter.