昨天國際上 18 個國家共同簽訂了一份 AI 安全開發協議，發佈了一份指南Guidelines for secure AI system development（20 頁），希望從開發階段就確保 AI 的安全。

除了美國、英國外，還包括德國、義大利、以色列、新加坡、日本、南韓等國家都簽署了這項協議。

這是第一份國際詳細的 AI 安全協議，全球共同合作，保證 AI 技術的安全性和可信度，這在解決 AI 風險問題上是一個重要的進展。

洛杉磯一間藝術工作室 Brain 最近推出了一個線上的拍賣活動 AI Garage Sale，但最神奇的是線上的店員都是 AI，所以價格完全由 AI 定價，可以跟他討價還價。

AI 會隨機賣你各種東西，如果你喜歡就可以跟他殺價，不喜歡就可以重來換一個東西，甚至還有 PS5、演唱會門票，價格完全看你的殺價功力。

雖然說官網是保證真的可以買到東西，但目前只能寄送美國地區，沒有支援國際運送。

我覺得這個想法超級酷，作為產品的行銷活動或是真的把它做成商業模式都很棒，或許也來自己搞一個 AI 拍賣看看？有沒有品牌方想來賣產品的 😂

beehiiv 是一個電子報平台，創辦人 Tyler Denk 是知名電子報 Morning Brew 的第一個員工，從 2021 年成立到現在，已經募集了 1,670 萬美元的資金。

beehiiv 內建了發送電子報所有必備的工具，包含訂閱數成長、電子報客製化和數據分析工具。後續也不斷推出專為電子報經營設計的功能，包含：內建表單、反饋投票、推薦計畫、SEO 網頁優化…等。

今天是 Cyber Monday！輸入折扣碼 BFCM23 獲得年度方案 20% 的折扣，等於一個月只要 67 美元，就能獲得 100,000 位的訂閱者數量，跟其他電子報平台比，省非常多（參考上圖比較）

我前天直接買了一整年最高等級的方案 😂，優惠只到【今天（11/28）中午12:59】

我昨天在 Facebook 有寫一篇關於 beehiiv 的長文，大家可以參考！

AI21 Labs 是一家開發類似 OpenAI 的 GPT-4 和 ChatGPT 生成式 AI 工具的 AI 新創。客戶可以透過 API 使用 AI21 Labs 的平台執行例如：摘要、解釋、修正文法等工作。

這次 C 輪融資獲得 Intel Capital 和 Comcast Ventures 的參與，完成 5,300 萬美元募資，估值達 14 億美元。

AI21 Labs 是 Intel 現在第二大的生成式 AI 投資，最大的是上禮拜有介紹到的 Stability AI。

上週五的電子報的最後有跟大家推薦 Andrej Karpathy 推出的線上講座「給大忙人的 LLMs 入門課」不知道大家看完了沒？

這部影片已經紅到不行，一部 1 小時的教學影片短短 4 天就達到了 56 萬次的觀看。

在這 1 小時的教學影片中提到了很多的資源、論文和概念，Greg Schoeninger 將全部的資源都整理成了一個精選的閱讀清單。

這份閱讀清單包含了所有目前 LLMs 最重要概念的論文及資源，推薦給讀者收藏，如果還沒看過完整影片的讀者，真的超級推薦，1 小時就能讓你用懂 LLMs是什麼。

今天早上看到了這篇上個月 Google DeepMind 的論文「Take a Step Back: Evoking Reasoning via Abstraction in Large Language Models」這份重要的論文我竟然在上個月漏掉了，今天來介紹給大家。

這篇文章介紹了一種叫「Step-Back Prompting」的 Prompt 技巧，可以讓大型語言模型提取出更高層次的概念和第一性原理，幫助產出更精準的答案。

研究結果發現與「Chain of Thought」的 Prompt 相比，使用「Step-Back Prompting」準確性提升高達 36%。

這兩天我會再將「如何使用 Step-Back Prompting 整理成文章」，大家可以再關注一下我的 Facebook。

CoT（Chain of Thought）是 AI 模型中一種 Prompting 的概念技巧。這個技巧的核心想法是模仿人類解決問題時的思維過程，生成一系列的中間步驟或推理過程，形成一條「思維鏈」來提高 LLMs 的推理能力，最有名的範例就是在 Prompt 中加入「Let's think step by step.」。CoT 概念是 2022 年由 Google Brain 提出 👉 完整論文

上禮拜電子報中有提到 Sam Altman 被解僱之前，OpenAI 內部可能已經有重大的突破，其中 Q*（唸成 Q star）可能就是這個重大突破的秘密專案。

這部影片是加拿大廣播公司 CBC 用非常簡單的方式來解釋什麼是 Q*，雖然沒有技術相關的介紹，但只用 10 分鐘就讓一般人輕鬆理解 Q* 的概念。

我們現在看到的大型語言模型，主要都是透過分析「語言的模式」來生成回答，但還是缺乏像人腦一樣的推理、數學能力。

而透過「設計獎勵機制」的方式能更有效地讓 AI 解決數學問題，Q* 可能就是這種可以靈活思考和推理的 AI 系統。

《Brief AI 電子報》是繁體中文圈最具影響力且成長速度最快的「AI 電子報」。讀者多為企業家、經理人、投資人、高階主管、工程師、分析師、創作者…等專業知識工作者。…👉了解更多