LY Corporation Tech Blog

支持 LY Corporation 和 LY Corporation Group (LINE Plus, LINE Taiwan and LINE Vietnam) 服務,宣傳技術和開發文化。

2023 梅竹黑客松活動文章分享 - 企業主題:透過生成式 AI 來打造學生相關應用的 LINE Bot 聊天機器人

前言

大家好,我們是 LINE Taiwan 開發者關係部門,很開心有這機會可以贊助並參與一年一度的梅竹黑客松 2023,透過這次黑客松的實作,讓同學們再短短的兩天以技術為本,發想創意並實踐出來,過程中除了實作外,也有企業博覽的時間,話不多說,讓我們繼續看下去!

地點|國立清華大學新體育

時間|2023/10/21(六) - 10/22(日)

活動簡介

梅竹黑客松就像一場盛大同樂會,一群「衷於解決問題」的人同聚一堂並勇於跳脫自我舒適圈,在發現與應用中,認識彼此與自己。兩天的比賽不單是激烈的隊伍競賽,更多的是透過團隊內的互補學習、隊伍與企業交流之間的教學相長,讓參賽者在梅竹黑客松中,「玩得像個小孩,想得像個大人」。

轉自:梅竹黑客松2023

地點|國立清華大學新體育

館時間|2023/10/21(六) - 10/22(日)

出題介紹

主題: 透過生成式 AI 來打造學生相關應用的 LINE Bot 聊天機器人

在數位時代快速發展的今日,LINE 不僅是年輕學生世代們溝通的主要平台,也是他們獲取資訊的重要管道。因此,我們提議參賽者以「透過生成式 AI 打造校園相關應用的 LINE Bot」為主題,創建一個能夠與校園生活緊密連結的 LINE Bot。

這次的競賽要求需要利用生成式人工智慧(Generative AI)為校園生活帶來更多便利。你的 LINE Bot 可以是一個學習輔助工具,透過AI理解學生的需求,幫助他們解答相關的問題;

  • 學務相關的生活資訊中心,選課或是教科書的相關資訊。
  • 提供校園活動資訊、公車到站時間等;
  • 甚至可以是一個休閒娛樂平台,整合校園中的娛樂設施資訊或分享校園趣聞。

這不只是一場黑客松,更是一次理解年輕學生世代需求、解決實際問題並將創新理念轉化為實際產品的機會。我們期待你的參與,一同創造屬於年輕學生世代的聊天機器人,讓他們的校園生活更加豐富多元!

本次競賽的成功關鍵在於理解年輕學生世代的需求和行為模式。他們是數位原住民,對新科技的接受度高,善於利用數位工具解決問題。他們追求效率,喜歡個性化的內容,並重視社交互動。

透過這次的競賽,讓我們一起深入瞭解年輕學生世代,並創建一個符合他們需求的 AI 聊天機器人,為他們的校園生活增添色彩!

關於生成式 AI 與 LINE 官方帳號結合的技術部分

主要有幾個方向可以提供給各位參考,以下分成幾種類型:

通用型: Prompt Engineering 

透過直接對於 Prompt 的加工,就像你平時對於一些線上提供服務的生成式 AI 聊天工具一樣。 你就直接將聊天的內容變成 Prompt 即可。 比如說:

  • “幫我將群組對話摘要... (主要內容)" 
  • "幫我把論文翻譯成中文,並且摘要 .... (主要論文)"
  • "給我一段跟 (主要文字) 有關的笑話" (但是通常不好笑 XD)

更多範例與相關程式碼,可以參考文章:  

智慧代理人: Smart Agent 

所謂的 Smart Agent 的概念,出現於 "LLM Powered Autonomous Agents" 這篇文章。 裡面將一些概念加此拆解,主要分成以下幾個部分:

  • Memory (記憶空間): 要控制你的大型語言模型 (LLM: Large Language Model) Agent 有需要的記憶空間,太多會容易讓 token 超過限制。太少又會無法抓專注對話。
  • Tools (工具): 透過工具,你的 LLM 將可以了解原本無法知道的相關資訊。比如說現在的天氣,股價,甚至是內部的系統。
  • Planning (計畫): 透過思考流程的不同 (Reflection, Self-critics) ,可以讓 LLM 去處理更多不同的問題。也可以像人類一樣思考,尋找與評判出更好的解答。
  • Action (執行):  最後,透過以上的一些工具。可以做出許多相關的工作。

這裡可以參考文章:  透過 LangChain 打造一個股價查詢 LINEBot - 股價小幫手 。 裡面有透過一個簡單的程式碼(股市查詢),透過 Smart Agent 的概念來完成相關概念。

知識庫小幫手: RAG (Retrieval Augment  Generation)

RAG 概念的知識小幫手,主要就是透過將資訊(比如說 PDF, Words 或是其他網頁型資料) 透過切割過後 Embedding 。 將使用者的輸入文字也透過同樣的方式 Embedding 之後找尋最相似的內容所在。

簡單的來說,就是尋找使用者問的問題在 PDF 的那一頁(可能是複數頁面)。然後將該頁傳回作為回覆的資料依據。

這個方面,可以參考 Cloud Summit 2023 - 結合生成式 AI 打造有趣的 LINE Bot 應用 演講中帶來的相關內容。 並且也有相關程式碼可以讓大家去修改。

參考文件:

攤位活動介紹

攤位博覽會中,LINE的攤位做了一個統計版,請同學們投票出自己都是怎麼版本控制,當然 Git 不意外的成為第一名,但畢竟在黑客松這個求新求快的場合,不少同學也還是透過壓縮檔以及雲端硬碟,甚至還有透過USB傳送的呢!實在是非常令人驚奇。共有104人參與投票,最高為Git,47% 有49人投選。 第二名高為雲端硬碟 29% 有30人投選,前二名總佔總投票76%

攤位上很多同學都來詢問實習的相關問題,這次攤位上也邀請了Shandy Yu(前實習生/現任Data scientist) & Wayner Kao(TECH FRESH)在攤位上協助大家釐清實習問題

更多實習生的資訊請參閱:

競賽展示與結果評審

在最後競賽展示的狀況,我們可以看到有許多同學準備得相當充分。除了有些團隊有準備好成品的展示外,更有的團隊很聰明的透過錄影的方式展現完整的呈現整個官方帳號的運作流程與如何協助同學們來解決痛點。

我們也很驚艷的瞭解到,許多同學對於 Smart Agent 跟 RAG 都有相當程度的了解。很開心每一個同學都能更因為參與本次的梅竹黑客松,因而學習到如何建置 Smart Agent 或是 RAG 的相關應用。

也看到許多有趣的創意,不論是透過資料的查詢後讓生成式 AI 來幫忙整合與回覆。 還是透過工具去將資料抓下來分析過後給予最正確的回覆。

也可以感受到透過生成式 AI 可以讓 LINE 的官方帳號越來越貼近每一位使用者的心。也符合 Closing The Distance 的企業宗旨。 

企業組最後成果

這裡快速列出 LINE 的企業獎:

  • 第三名團隊:葛萊分多加十分
    • 森森,你的小組貓咪助理: 主要是為了解決大學生在分組報告的時候,需要的相關輔助。舉例:訂定分工規劃,定期提醒同組要做事(大家都蠻喜歡的),或是安排大家開會的時間。針對學生難湊齊,跟常常忘記分組報告的人來說,相當有幫助。

  • 第二名團隊: 君子報仇一年不晚
    • 他們提出一個有趣的校務服務小幫手,除了可以抓取課程之外,還可以將課程放在筆記軟體(notion)之中作為可以給上傳資料的人常看之用。 也會去抓取校車以及相關資料的小幫手。

  • 第一名團隊: 「三校岩壁細胞智能創意組」
    • 推出的「岩壁熊」 詳細在後面會提到。

梅竹大獎: 恭喜「三校岩壁細胞智能創意組」

恭喜 LINE 企業組第一名「三校岩壁細胞智能創意組」獲得最後的梅竹大獎第一名。 也恭喜其他 LINE 企業組的參賽同學,很開心看到大家將生成式 AI 應用在學校事務,生活日常與課業學習上。你們真的太棒了。

這裡對「三校岩壁細胞智能創意組」 提出的服務 - 「岩壁熊」做一個簡單的介紹

岩壁熊」 是一個針對同學們即將到來的期中考實作而成,可以協助收集與分析老師們的考古題。可以讓每一個同學針對授課內容與考古題又更深入的了解。

甚至也可以請生成式 AI 來多出一些相似的題目,讓學生可以試著去了解老師想要考的範圍與重點。 甚至也有交流的功能,可以讓同學們去匿名的提問與回答期中(末)考的相關問題。

完全可以解決學生期中考的問題之外,他們也勾勒出透過 RAG 系統可以在課業學習上的一個重點。讓每一個考古題可以有效的上傳,並且在上傳後切割資料後放入他們的 Vector DB 服務,更容易可以擴展與讓更多的資料可以有效地被傳承與利用。

結語

這一次透過生成式 AI 與 LINE 官方帳號的結合,我們可以看到許多學生有令人驚豔的想法與應用。雖然不是每一組都有獲得他們能接受的名次。但是身為主辦單位我們感受到每一位同學透過這一次梅竹黑客松的參賽,都學習到如何利用生成式 AI 來解決生活上,學校內的一些疑難雜症。並且打造出令人 WoW 的應用, 這也是我們 LINE TECH FRESH 當初成立宗旨之一,我們透過許多內部的 LINE Taiwan Internal Hackathon 我們也希望讓更多來公司內實習的實習生,可以跨團隊與其他人組隊,並且一起來構思,發想如何打造出更好的應用。 我們也期許同學們可以掌握生成式 AI 的技術,一起來打造更貼近人心 Closing The Distance 的應用。 

立即加入「LINE 開發者官方社群」官方帳號,就能收到第一手資訊,或與開發者計畫有關的最新消息的推播通知。▼

「LINE 開發者官方社群」官方帳號 ID:@line_tw_dev

關於「LINE 開發社群計畫」

LINE 於 2019 年開始在台灣啟動「LINE 開發社群計畫」,將長期投入人力與資源在台灣舉辦對內對外、線上線下的開發者社群聚會、徵才日、開發者大會等,已經舉辦 30 場以上的活動。歡迎讀者們能夠持續回來查看最新的狀況。詳情請看: