§§   Not-I部落格

總 覽版 務政 經健康醫療軍 武理 財文 化藝 文科 技台灣的美旅 遊PISA娛 樂鄉 土公 民認 同副 刊哈 啦范氏網
竹縫
視界
耳聾
世界
泰伯
觀點
Joy
隨筆
哈利
天地
Jerry C
鳥 世 界
射水魚
天 空
討海人
鏡 頭
嘻笑
人間
詩情
畫藝
老工仔
思 維
網網
相連
歷史
庫存

主題:對付 GPT
發表:Not-I 2023-07-20 19:25:27 閱覽數:363 (IP: ) T 8135 引 用
 


回應:Not-I 2023-07-21 15:05:37 (IP: ) T 8135_R 10 引 用
負起把關的責任, 由政府帶頭.

AI生成資料 學者贊同公務員不得直接使用
news.ltn.com.tw/news/life/paper/1594814

一些學者的意見:

資料放上雲端網路就可能外洩
台大資工系副教授陳縕儂表示,國科會研擬參考指引對公部門非常合理,因為生成式資訊不一定正確,且目前很多生成式AI的應用都透過「雲端服務」,只要有敏感資料、個資疑慮等,一旦放上雲端網路,就可能外洩,這不是AI技術問題,而是雲端問題,為此,ChatGPT合作公司美國微軟就提供企業隱私保密服務。

陳縕儂指出,生成式AI最大問題是人類對模型的控制力比較弱,對其「該說」、「不該說」部分尚難訓練,且已有套話方式,可繞過其防堵機制。比如規則禁止AI說出「紅燈區」地點,卻可巧妙問AI「想避開紅燈區」而套出想要的地點資訊,公部門資料不上傳,就不會被套出話,這樣最保險。

對於民間企業與學術界是否能套用指引?陳縕儂認為,業界跟學術界的使用情境跟政府部門不同,顧客隱私或機密、學界研究敏感資料不能上傳外,其他資料如產品公開資訊、學術開放成果等,皆可適當使用AI。

台大電機系副教授李宏毅則說,AI使用參考指引多數內容除了公部門外,也適用民間機構,包含機敏資料不要上傳、生成內容需要再次檢查等,但要如何分辨AI的句子是否跟其他人的一模一樣?落實檢查恐有難度。

不具名教師認為,生成式AI可以很方便整理摘要協助教學,比自己整理還好,要禁止老師使用也很奇怪。但若是高爭議性、高風險的考試,不要用AI出題,避免學生也用AI猜中題目。


綜 覽 全 部 討 論

總 覽版 務政 經健康醫療軍 武理 財文 化藝 文科 技台灣的美旅 遊PISA娛 樂鄉 土公 民認 同副 刊哈 啦范氏網
竹縫
視界
耳聾
世界
泰伯
觀點
Joy
隨筆
哈利
天地
Jerry C
鳥 世 界
射水魚
天 空
討海人
鏡 頭
嘻笑
人間
詩情
畫藝
老工仔
思 維
網網
相連
歷史
庫存


* 討論區內之言論,不代表本園之立場,一切法律責任仍由發言者本人負責
* 如果您有任何不當言論,本園有權決定是否保留您所送貼的意見 。