![[D36] Michael Stonebrakerが生み出した列指向データベースは何が凄いのか？ ～Verticaを例に列指向データベースのアーキテクチャ...](https://cdn.slidesharecdn.com/ss_thumbnails/d36verticakomori-131125025044-phpapp02-thumbnail.jpg?width=560&fit=bounds)
More Related Content
What's hot (20)
Similar to 2024-04 础滨国际法制发展趋势 法遵議題 國際 AI 治理重要事件說明及整理 (20)
![[台灣人工智慧學校] 主題演講 - 簡禎富主任 (科技部人工智慧製造系統研究中心)](https://cdn.slidesharecdn.com/ss_thumbnails/aischoolhsinchu20180721-180726073053-thumbnail.jpg?width=560&fit=bounds)
![[台灣人工智慧學校] 工業 4.0 與智慧製造的發展趨勢與挑戰](https://cdn.slidesharecdn.com/ss_thumbnails/20190316jyh-horngchou-190315170336-thumbnail.jpg?width=560&fit=bounds)
More from JoyceHsu27 (8)
![[IEK] 2022-11 Looking into 2023 Industry Trends｜ Resource Patch for all works...](https://cdn.slidesharecdn.com/ss_thumbnails/iek2022-11lookinginto2023industrytrendsresourcepatchforallworkshops-230913072403-d9a82666-thumbnail.jpg?width=560&fit=bounds)
![[IEK] 2021-11 Resilient Manufacturing Ecochains_ Human Centric Development fo...](https://cdn.slidesharecdn.com/ss_thumbnails/iek2021-11resilientmanufacturingecochainshumancentricdevelopmentforfutureindustryecochains-230913032151-2b8941f5-thumbnail.jpg?width=560&fit=bounds)
![[IEK] 2023-04 物联网产业趋势分享.pdf](https://cdn.slidesharecdn.com/ss_thumbnails/iek2023-04-230828073738-e8944e9b-thumbnail.jpg?width=560&fit=bounds)
![[IEK] 2022-06 IEK360系列｜化合物半导体应用趋势与材料需求.pdf](https://cdn.slidesharecdn.com/ss_thumbnails/iek2022-06iek360-230828073405-fa654d3e-thumbnail.jpg?width=560&fit=bounds)
![2023-06 [経済産業省] 半导体?デジタル产业戦略.pdf](https://cdn.slidesharecdn.com/ss_thumbnails/2023-06-230824001759-1adb884c-thumbnail.jpg?width=560&fit=bounds)
2024-04 础滨国际法制发展趋势 法遵議題 國際 AI 治理重要事件說明及整理
- 4. 3 國際AI治理重要事件 2021-2022 2023 2024 4月 歐盟 AIA草案 3月 英國 AI白皮書 5月 G7 廣島AI進程 10月 G7 廣島AI進程 發表聯合聲明 11月 英國 AI安全高峰會 3月 歐盟通過AIA 聯合國通過首 個AI決議 7月 中國 生成式人工 智能服務管 理暫行辦法 美國 AI安全行政命令 ? G7「廣島AI進程」 ? 就AI開發者的國際指導方針及更具體計畫行動達成共識，2023/10/30達成AI開發者的行為準則 （含生成式AI） ? 英國AI安全高峰會發表《布萊切利宣言》 ? 布萊切利宣言(Bletchley Declaration)重申國際合作的重要性，提出AI監管核心價值：人權保護、 透明性、可解釋性、公平性、問責制、監管、安全、適當性、人類監督、道德、減少偏見、隱私 和資料保護 ? 歐盟人工智慧法 (AI Act, AIA) ? 歐盟於2024/3/13通過，依據風險建立四個不同的監管等級，並納管通用AI模型。 ? 聯合國AI決議 ? 聯合國於2024/3/21通過首個AI決議，制定了安全使用人工智慧的原則，使AI尊重人權，並且安 全、可靠和值得信賴。
- 7. 6 數位帝國 Digital Empires 建立基於風險的法 制監管框架(AIA)， 保障人權同時促進 產業發展 制定生成式AI管 理辦法，重視AI 對政府管制網路、 社會輿論之威脅 公布行政命令 ， 重視AI對於國安 以及國防帶來的 風險 https://global.oup.com/academic/product/digital-empires-9780197649268 自由市場 權利保護 國家利益
- 8. 7 受規範的AI系統範圍逐漸形成共識 ? OECD於2023年11月29日提出 ? 人工智慧系統是一個基於機器的系統 ? 建構階段：根據所接收到的輸入內容，為了明確或隱含的目標，推斷如何 生成輸出，例如預測、內容、建議或決策。 圖片來源：https://oecd.ai/en/wonk/ai-system-definition-update 1. 建構階段 （訓練） 2. 使用階 段 資料來源：OECD，2023, https://oecd.ai/en/wonk/ai-system-definition-update ? 使用階段：輸出的內容可以影 響實體或虛擬環境。不同的人 工智慧系統在部署後的自主性 和適應性水平各不相同。 ? OECD對AI系統的定義成為 國際共識 ? 反映國際監管對象是對周遭 環境具有適應性的AI系統
- 9. 8 歐盟人工智慧法-以風險為基礎 ? Artificial Intelligence Act ? 以風險為基礎的監管途徑 ? 2024年3月通過，分階段施行 AI 系統 風險級別 監管方式 1 不可接受之風險 （Unacceptable risk） 禁止使用 2 高風險 （High-risk） 遵守嚴格義務規定 3 有限風險 （Limited risk） 透明度義務 4 最小風險 （Minimal risk） 不受規管 通用人工智慧模型 風險級別 監管方式 1 不具系統性風險 遵守透明性和其它義務 2 具系統性風險 （Systemic risk） 須遵守特定義務 依系統可能的風險程度高低分類 依模型的算力高低分類
- 10. 9 歐盟人工智慧法-AI價值鏈參與者責任 ? 相關責任分配於AI價值鏈上參與者 ? 提供者（provider）和部署者（deployer）為主要對象 提供者 provider 授權代表 authorised representative 進口商 importer 經銷商 distributor 部署者 deployer ? 開發AI系統或通用AI模型，或並將其投放至 市場者；或委託他人開發並以自己名稱或商 標投入 ? 在AI系統已投入市場或使用後，下列條件下 之參與者均視為提供者 ? 在該高風險AI系統上標示其名稱或商標 ? 對該高風險AI系統作實質修改，且修改 後仍具高風險 ? 對該非高風險AI系統（包括通用AI系統） 之預期目的進行修改，以致該系統符合 AIA的高風險定義 提供者 provider 部署者 deployer ? 使用人工智慧系統的任何自然人或法人、公 共機關、代理機構或其他團體，但在個人非 專業活動過程中使用人工智慧系統的情況除 外
- 12. 高風險AI 附件II 附件III 11 歐盟人工智慧法-高風險AI(1/4) 附件二中所指歐盟特定立 法涵蓋、必須通過第三方 合格評估的產品中，不論 是作為產品之安全元件、 或本身即是該產品的AI系 統。 附件三列出應用於八 大領域之AI系統 ? 生物識別技術 ? 關鍵基礎設施 ? 教育和職業訓練 ? 就業、勞工管理與自營職業機會 ? 獲得和使用基本私人服務/公共服務或福利 ? 歐盟或成員國法律允許的執法目的 ? 移民、庇護和邊境管制管理 ? 司法和民主程序 A. 風險管理系統 B. 資料及資料治理 C. 提供技術文件 D. 記錄保存 E. 透明性及提供資訊給部署者 F. 人為監督 G. 正確、穩健、網路安全 主要義務 範圍
- 13. 12 歐盟人工智慧法-高風險AI(2/4) ? 市場參與者責任：提供者、授權代表 提供者 provider 授權代表 authorised representative 進口商 importer 經銷商 distributor 部署者 deployer ? 確保系統符合規定 ? 在AI系統上標明其名稱、註冊商號/商標、聯絡 地址 ? 建立品管系統 ? 技術文件 ? 保存系統日誌 ? 合格評估 ? 簽署歐盟合格聲明 ? 在系統上加貼CE標誌 ? 系統註冊 ? 糾正措施 ? 與主管機關合作 ? 確保系統符合歐盟有關可近用性相關規範 ? 透明性規定 提供者 provider 非位於歐盟境內之提供者須指定授權代表， 確保系統符合規定 ? 保存歐盟合格聲明、技術文件以及其他 合規相關文件 ? 確保高風險AI系統完成註冊且資訊正確 ? 發現提供者違反規定時，終止授權並通 知主管機關 授權代表 authorised representative
- 14. 13 歐盟人工智慧法-高風險AI(3/4) ? 市場參與者責任：進口商、經銷商 提供者 provider 授權代表 authorised representative 進口商 importer 經銷商 distributor 部署者 deployer ? 上市前確保系統合格、提供者已草擬技術文件、系統附有CE合格標誌和歐盟合格聲明、規定的文 件與使用說明 ? 確保儲存或傳輸條件不會危及其系統之合規 ? 應國家主管機關合理要求，提供規定必備之資訊與文件，並配合主管機關 ? 確保提供者已依規定指定授權代表 ? 在AI系統及包裝或隨附文件上標示其名 稱、註冊商號/商標風險通報義務 ? 保存系統合格證明、使用說明及歐盟合 格聲明等文件至該系統投入市場或使用 後至少十年 進口商 importer 經銷商 distributor ? 確保提供者和進口商皆依規定標示其名稱及註冊商 號/商標、提供者已依規定建立品管系統 ? 發現已上市系統不合規時，採取必要糾正措施使其 合規、下架或召回，或者應確保其它相關經濟營運 者採取前述糾正措施。 ? 若該系統具對健康、安全或基本權利造成風險，應 立即通知提供者、進口商、以及相關主管機關
- 15. 14 歐盟人工智慧法-高風險AI(4/4) ? 市場參與者責任：部署者 提供者 provider 授權代表 authorised representative 進口商 importer 經銷商 distributor 部署者 deployer ? 採取措施確保遵守系統使用說明 ? 確保合格人員負責人類監督 ? 確保輸入資料品質以及符合系統原本使用目的 ? 監控系統的運作 ? 風險或系統事故通知上游及主管機關 ? 保存系統日誌 ? 資料保護影響評估（§29(6)） ? 配合主管機關的相關行動 ? 透明性規定 部署者 deployer ? 非即時遠端生物特徵識別系統的部署者應遵 守相關程序和規定 ? 雇主在工作場所部署高風險AI系統應告知勞 工 ? 政府機關單位、銀行和保險公司應進行基本 權利影響評估 其他部署者義務 deployer
- 16. 15 歐盟人工智慧法-有限風險AI ? 透明性義務 1. 確保與系統直接互動的自然人知道正在與AI 系統互動 2. 產生合成音訊、圖像、視訊或文字內容的AI 系統（包括通用AI系統）的提供者應確保AI 系統的輸出以機器可讀的格式標記，並可偵 測為人工生成或操縱 提供者 provider 部署者 deployer 1. 情緒識別或生物特徵識別分類系統：部署者 應使暴露其中的自然人知情系統正在運作 2. 產生或操縱構成深度偽造的影像、音訊或視 訊內容的AI系統部署者應揭露該內容是人為 生成或操縱的 提供者 provider 授權代表 authorised representative 進口商 importer 經銷商 distributor 部署者 deployer 具有生成功能的AI系統也需要符合透明性義務
- 17. 16 歐盟人工智慧法-通用AI模型(1/2) ? 具系統性風險之判斷標準 ?根據技術指標或基準：目前以算力 FLOPS值10^25為基準，超過者即具 有系統性風險 ?根據執委會決定、或專家科學小組提 出的達標警報（qualified alert） ? General Purpose AI Models 通用AI模型 具系統性風險 之通用AI模型
- 18. 17 歐盟人工智慧法-通用AI模型(2/2) ?一般通用AI模型提供者義務 1. 維護並更新技術文件，依主管機關要求提供該 文件 2. 提供相關資訊和文件給下游系統提供者，俾利 其合規 3. 若提供者總部位於歐盟境外，應於歐盟境內指 定一授權代表 4. 制定遵守歐盟著作權法的政策 5. 公開通用AI模型訓練資料內容之詳細摘要 ? 通用AI模型提供者義務 通用AI模型 具系統性風 險之通用AI 模型 ?具系統性風險通用AI模型提供者額外義務 1. 模型評估，例如進行對抗性測試，以識別系統 性風險 2. 風險評估及風險緩解措施 3. 向主管機關通報重大事件 4. 確保足夠的網路安全保護水準
- 20. 19 美國AI安全行政命令 ? Safe, Secure, and Trustworthy Development and Use of AI, E.O. 14110 of Oct 30, 2023 ? 2023/10/30發布 ? 目標： ?確保美國在人工智慧方面之國際領導地 位 ?保護美國人民免受人工智慧之風險影響 ? 行政命令非國會通過之法律，主要 拘束聯邦政府 ? 管制行為以國家安全為主要核心 圖片來源： https://www.cnbc.com/2023/10/30/biden- unveils-us-governments-first-ever-ai- executive-order.html
- 22. 21 美國AI安全行政命令-確保AI安全 Sec.4 確保人工智慧安全 ①制定安全標準與指引 ? 國家標準暨技術研究院(National Institute of Standard and Technology, NIST)負責 ? 重點： ? NIST應於發布日270日內以現有的AI風險管理框架(AI Risk Management Framework, NIST AI 100–1)為基礎： ? 訂定指引指導「兩用基礎模型」(Dual-use fundamental model)的安全開發 ? 將紅隊測試納入標準 ? 國土安全部應把上述標準應用於關鍵基礎設施
- 23. 22 美國AI安全行政命令-確保AI安全 Sec.4 確保人工智慧安全 ②兩用基礎模型與大規模運算叢 集業者之通報 通報 商務部 兩用基礎模型 (Dual-use fundamental model) 業者 使用大於10的26次方整數或浮點數運算 能力訓練AI模型，或主要使用生物序列資 料且使用大於10的23次方運算能力訓練 AI模型 通報：有關模型訓練的實體、 網路安全措施、紅隊測試結果 大規模運算叢集 ( Large-scale computing clusters) 業者 位於單一資料中心的運算叢集，若資料傳 輸速率超過每秒100Gbits，且其訓練AI 模型的運算能力之理論最大值達每秒10 的20次方 通報：運算資源的位置和數量
- 24. 23 美國AI安全行政命令-確保AI安全 Sec.4 確保人工智慧安全 通報 商務部 ? 基礎設施即服務(IaaS)提供者通報商務部 ? 通報內容： ? 報告與他國客戶之間的交易活動（包括交易對象身分與相關資訊） ? 掌握並通報其境外經銷商的服務使用者、最終用途和底層應用程式詳細資訊， 且供應商未提供資訊前不得提供服務 ③基礎設施即服務提供者之通報 雲端運算服務
- 28. 27 中國生成式AI辦法 ? 生成式人工智慧服務：利用生成式人工智慧技術向中華人民共和國境內 大眾提供產生文字、圖片、音訊、視訊等內容的服務 內容治理 ? 服務提供者對生成式人 工智慧產生的內容負責 公開透明 ? 回應監管部門要求，提 供可能影響最終用戶信 任和選擇的必要資訊 ? 公開產生式人工智慧服 務的目標使用者群、應 用程式場景和目的。 訓練合規 ? 資料來源合法 ? 人工標註 ? 防止歧視 評估與備案 ? 若生成式AI服務具有輿 論屬性或社會動員能力， 在向公眾提供服務前， 服務提供者應申請安全 評估和完成演算法備案 使用管理 ? 防止未成年用戶過度依 賴或沉迷於服務 ? 引導使用者科學理性認 識和依法使用 ? 如發現使用者違法，暫 停或終止向其提供服務 權利保護 ? 公平競爭，尊重他人合 法權利 行政許可與外商投資 ? 未來可能會有相關規定 違法責任 ? 依據中國現行法律規範 處理，無其他新增罰則
- 29. 28 歐、美、中之監管重點比較 自由市場 權利保護 國家利益 歐盟 美國 中國 規範 對象 AI系統與通用AI之提供 者與部署者 兩用基礎模型業者 大規模運算叢集業者 雲端服務業者 生成式AI服務提供者 義務 技術安全要求、透明 度義務等 通報義務，與政府分 享資訊 需對使用該產品產生 的內容負責。 重視公民與消費 者權利 掌握產業鏈關鍵 資訊以維護安全 公共秩序與內容 審查為主 監管 重點
- 31. 30 AI生命週期的法遵議題 研發 測試 部署 ? A訓練資料之著作權 ? 訓練資料涉及個人資料 ? AI系統之標準與安全 ? 消費者保護 ? 利用AI犯罪 ? 生成式AI假訊息
- 33. 32 個資隱私 ? 訓練資料中個人資料的知情同意 ? 剖析profiling與自動化決策 ? 從各種不同來源獲取有關個人的個人資訊。從手 機、社群媒體、視訊監控系統和物聯網收集的網 路搜尋、購買習慣、生活方式和行為資料 ? 分析這些訊息，將人們分為不同的群體或部門。 此分析確定不同行為和特徵之間的相關性，以建 立個人檔案。該個人資料將是有關該人的新個人 資料。 ? 在沒有任何人為參與的情況下透過自動化方式做 出決策的過程 ? 歐盟GDPR、韓國個資法、美國加州消費者隱私 法等立法例中訂有「自動化決策」之規範。
- 34. 33 AI系統之標準與安全 ? 系統的安全性直接影響到AI是否可以被信任和廣泛應用 ? 為了確保AI技術的發展與應用能夠在全球範圍內保持一致性 和可靠性，同時促進創新並保護用戶權益。 ? AI產品標準與驗證機制涉及使用者安全保護以及我國產品外 銷至歐美等國之機會。 ? 國際案例 ? 我國AI評測指引草案 ? 美國「人工智慧風險管理框架1.0」（Artificial Intelligence Risk Management Framework, AI RMF 1.0） ? ISO/IEC 42001:2023 人工智慧管理系統 圖片來源：https://www.flaticon.com/free-icon/iso_10806477?term=standard&page=1&position=83&origin=search&related_id=10806477
- 35. 34 消費者保護與責任 ? 當AI系統的決策導致消費者損害時，確定責任 方並非易事。 ? 未來的法規需要明確AI系統的開發者、部署者或其他 人等在何種情況下承擔責任，以及消費者如何獲得賠 償。 ? 歐盟《產品責任指令》（ the revised Product Liability Directive, PLD ）修法 ? 調整舉證責任規定，並將廠商責任延展至上市後持續 就產品或服務的品質負責，以保護事故發生後消費者 求償之權利。 圖片來源：https://www.flaticon.com/free- icon/consumer- behavior_10841801?term=consumer&page =1&position=6&origin=search&related_id =10841801
- 36. 35 利用AI犯罪與假訊息 ? 深偽AI影音散佈行為可能造成他人名譽或 其他法益損害 ? 例如利用生成式AI模仿影像或聲音進行詐欺 ? 各國針對利用AI技術之不法行為是否課以刑事責任多有討論 ? 美國FTC辦理活動鼓勵業者以演算法來檢測人工智慧生成的語 音以及浮水印和身份驗證技術，以提高假冒語音的難度 圖片來源：https://www.flaticon.com/free-icon/fraud- alert_2867725?term=fraud&page=1&position=1&origin =search&related_id=2867725 圖片來源：https://www.flaticon.com/free- icon/fake_1483341?term=fake&page=1&pos ition=1&origin=search&related_id=1483341 ? AI可能加速假訊息之生成與傳播 ? 如何平衡言論自由、創新促進與防止訊息操縱和詐欺等負面影響。 ? 辨識與標記義務：要求用AI生成的內容被明確標記。 ? 責任與追溯：AI製造的假訊息造成損害時誰應負責？
- 39. 38 Thank you
- 40. 產業情報顧問服務AISP為資策會MIC最核心的產業情報資料庫服務，運用最先進數位平台服務技術，提供產業在資訊與通訊（ICT）領域 最完善的新知識、新技術、新方向的產業情報資訊服務平台。服務內容包括「產業情報資訊、突發事件觀察剖析、關鍵議題焦點評論、 產業議題深度研究、國際大展情報蒐集分析、前瞻趨勢」等。隨時觀察產業發展動態與趨勢，觀測掌握全球重要的產業發展動態，並依據 產業需求規劃研究範疇與議題，開展符合產業需求的產業情報資料庫。 推薦資料庫 members@iii.org.tw (02)2378-2306 任何問題 歡迎洽詢 《MIC會員服務中心》 本產品以「AI產業化」及「產業AI化」兩大主軸 進行研究，在「AI產業化」上探討各式新興AI及 生成式AI演算法之應用、AIaaS服務、人工智慧 硬體及晶片、軟體框架等議題；「產業AI化」則 探討不同行業AI及生成式AI技術於場域之議題、 產業AI化動態及新創應用案例等內容。 資通安全 人工智慧 AISP情報顧問服務網 https://mic.iii.org.tw/aisp 瞭解更多 趨勢前瞻技術創新 本產品與日本NIKKEI BP公司旗下NIKKEI xTECH 合作，提供最新的ICT領域專業分析。聚焦國際 全球軟硬體產業新興／關鍵技術、創新應用、 廠商動態之市場趨勢與產業動態，從多元化 角度，分析資通訊及軟體產業新趨勢，以掌 握產業脈動、技術趨勢或發展新事業。 本產品以觀測國內外資安產業發展現況、未來趨勢、 產業結構、CIOs／CISOs關注的資通安全與風險管理議 題為主軸，搭配國際資安大廠、國際資安新創在相關 資安技術之佈局，勾勒資安產品發展與應用服務等商 業模式，並藉由觀察國際資安大展所引領的趨勢，描 繪出未來資安產業在垂直應用市場的形貌與商機。 Cybersecurity Artificial Intelligence Innovation Foresight Program 國際資安大廠動態 國際資安新創商模 資安大展焦點觀測 資安產業發展動態觀測與趨勢前瞻 國銀行業資訊長／資安長關注資通安全與風險管理議題 企業面對的網路威脅與防禦案例動態觀測暨解析等 資安產業的發展趨勢與產業資安應用佈局 研究範疇 資安產業化、產業資安化 雲端、IoT、AI、工控、5G、晶片、供應鏈之安全 企業資安應用佈局 研究重點 研究構面 技術趨勢前瞻 產品發展分析 國際重點政策 標竿廠商動向 標竿應用案例 AI產業化之相關軟硬體、治理議題，以及產業AI 於不同垂直領域之應用發展 研究範疇 新興AI軟硬體及平台 重點應用領域趨勢 AI新興算法與服務 可信任AI與AI評測 AI大廠領域佈局動向 研究重點 研究構面 新興科技、廠商動態與創新應用 研究範疇 新興技術趨勢 關鍵產業議題 研究重點 技術動向與趨勢 大廠動態與策略 創新應用與課題 研究構面
- 41. 趨勢洞察力 決定 企業競爭力 MIC 協力為您促進 組織 / 人才 再升級 組織人才前瞻力的提升，儼然已成為現今企業突破轉型的新顯 學。為成功協助企業菁英掌握瞬息萬變的市場趨勢，特別針對 產業熱門議題以及MIC重點研究，提供研究顧問至貴公司「到 府簡報」之服務，期盼能將MIC多年凝聚累積的研究能量及專 業精闢的情報服務，深耕企業內部員工，加速提升組織競爭力 ，共創企業新價值，與企業組織人才攜手 找出迎向新經濟的解方 (02)2378-2306 members@iii.org.tw 欲瞭解詳情，請洽MIC會員服務中心，由專人為您服務 產經趨勢 資訊產業 半導體產業 5G/B5G 數位經濟 金融科技 科技應用 電動車 人工智慧 數位轉型 資安防護 智慧城市 智慧製造 智慧醫療 能源與環境 點擊詳閱 MIC到府簡報議題 15 議題精選 大 到府簡報服務