LY Corporation Tech Blog

支持 LY Corporation 和 LY Corporation Group (LINE Plus, LINE Taiwan and LINE Vietnam) 服務,宣傳技術和開發文化。

Let's GEM! 生成式 AI 如何打造令人驚艷的服務 - LINE台灣 Internal Hackathon 2023

前言

生成式 AI(Generative AI)自去年底OpenAI推出ChatGPT以來,取得了爆炸性的增長。各種生成式 AI 的應用案例和改善工作方式不斷湧現。作為用文字,圖像與影音的最大溝通平台,LINE 絕對不會錯過這一次的新世代轉型。今年,在 LINE 台灣的內部黑客松活動中,我們將利用生成式 AI讓 LINE 再次進化。

這裡也分享一下,過去幾年我們舉辦黑客松的相關文章:

本年度的主軸: Let's Gem...

以紅寶石擔任封面主角,寶石當中會有 Z 世代 (Gen-Z) 與Generative AI 的涵義,代表我們希望在生成式AI 與 Z世代 中尋找更多的可能性,透過生成式AI 與 大型語言模型的方式讓更多Z世代的人可以在LINE生態圈中有更多的發展性。

參賽條件如下:

  • 必須是兩個團隊的混合組隊。(後面會提到更多)

  • 不能使用已經在開發中的專案來比賽。

  • 在發想題目必須使用到 ML 或者是 生成式 AI 的相關技術。

以往黑客松所帶來的回饋與嶄新的福利

第五屆的 LINE 台灣 Internal Hackathon ,我們聽取了許多之前參賽同仁的建議。這次的活動依舊有許多體貼的措施:

需求與工程的混合組隊,完美的腦力激盪:

另一方面因為公司同仁越來越多,許多時候雖有點子,卻不一定認識跨部門的同仁可以討論合作,因此這次的黑客松中也舉辦了線上媒合會,讓大家可以居家工作之餘,有機會分享自己的黑客松點子,找到更多跨部門且志同道合的同仁一起完成這次的黑客松競賽。

主動的媒合組隊,沒有任何好點子被落下:

開放報名後,我們舉辦了一個名為「Ideathon 」點子黑客松的組隊媒合會,,歡迎不論是非研發工程團隊,或是研發工程師都可以參加。 透過這個組隊媒合會,分享你的奇特想法與點子,並找尋隊友。 一直以來都為不少廣告部門或是行銷部門的同事,找到了最強的開發夥伴。

Hacking Space 讓你盡情開發的下午,帶來最好完成度的作品:

Hacking Space (黑客工作坊)  是允許同仁暫時放下手邊的工作,專心地把Hacking 專案來完成,與跨部門的夥伴透過實際的討論,來一起淬煉最後成品,達成最高的完成度。提案入選的隊伍,能有三次的 Hacking Space的參與機會,我們於週五下午在特定的空間進行,更備有餐點(下午茶)讓參賽隊伍都能在舒適的環境下進行,進而提高產品的完成度。 

新: LLM Token 費用 ? 任何相關的開發都有公司當你的後盾:

生成式 AI 從去年年底開始大量的爆發,但是許多開發人員無法順利地嘗試相關的開發,都是因為許多生成式 AI 的大型商用語言模型都有相關的使用費用。透過解析與生成的字元( Token ) 來計費,所以在許多的 POC 嘗試上其實也會有相關費用的產生。 

但是今年很開心在公司內部,全面擁抱著生成式 AI。相關的內部開發費用,也都是由公司來提供相關的費用補助。讓內部開發的工程團隊完全不會擔心自己的荷包受傷。

相關的黑客松前活動

今年的內部黑客松很不一樣,我們除了讓同仁參與競賽發想外。並且全程補助相關的開發支出外。我們還有許多有趣的活動,讓我們的參與者更了解生成式 AI 。

開發者面向的生成式 AI 讀書會 - LangChain/LLM Internal Meetup 

(只能給這個封面,其他的議題都太敏感了)

生成式 AI 的盛行下,有許多好用的框架被許多開發者來使用, 而 LangChain 正式其中之一。 除了公司已經對外的一些相關介紹外,我們其實內部對於 LangChain 與 LLM 的相關開發有許多次的內部讀書會與分享。 我們在七月到十月份就舉辦了六場對內的技術分享會。 (其實我們內部都成為 Internal Meetup 。 每次都透過相關的線上實作討論與技術分享,邀請開發同仁一起參與,一邊享受下午茶,一邊來學習。 可能內容大多不方便分享,只能分享一些小圖片給大家來了解。

AIGC Design Thinking Workshop  (激盪發想的創意松)

這是由跨部門主辦,開發工程團隊協助的一個相當有趣的活動。 透過 Design Thinking Workshop ,我們邀請了外部知名講師,並且透過內部分組的討論與發想,來讓非工程團隊為主(大多是商業運維團隊,服務規劃團隊),搭配一位開發工程的顧問。 一起來討論如何透過 AIGC 的想法,來重新打造每個服務。讓一些有趣的想法能夠發想出來。

內部專業的法律諮詢討論

生成式 AI 有許多討論,圍繞在著作權與相關資料應用相關的法律討論。 當然競賽前,我們也有相關團隊針對這個面向給予許多有用的相關訓練。 透過內部諮詢與討論,研發工程團隊對於生成式 AI 法律相關面向有了更多的了解。 也知道哪些使用者條款 (TOU: Term Of Use) 需要被放入,需要讓每個使用者了解到相關的權益。

總決賽 - 如寶石般的耀眼,卻又特別的發想

(這次感謝跨部門大力協助,整個決賽有了跨部門的同事來擔任主持人)

今年的 LINE 台灣 Internal Hackathon 20223 雖然是第五屆的舉辦的內部黑客松,但是還是有許多令人開心的特點。雖然因為都是內部還在發想中的專案,其實不太適合公開相關的開發內容。但是我們很願意跟大家分享,公司在透過生成式 AI 來發想專案上面,有哪些令人需要注意且讓讀者們意想不到的特點:

創作者的權益要被照顧:

身為台灣眾多的平台之一,我們的平台上有許多內容提供者。不論是簽約的新聞媒體,還是許多提供貼圖與表情貼的創作者都是我們重視的夥伴。 而生成式 AI 最受爭議的話題就是許多創作者的權益該如何思考。透過前面提到的法務部門提供的相關基礎課程,並且加上對於台灣法條的討論。許多部門的同仁也有了更多的了解。即便是內部黑客松的 POC ,這些議題也會被拿出來討論與討論。

使用者隱私資料的保護:

由於生成式 AI 會使用到一些資料作為生成資料的原文,也就是放在 Prompt 之內。 這樣需要顧及到使用者的隱私資料,於是在相關內部黑客松的討論上,評審們也會對於這個面相來要求許多參賽者來解釋,每一對也都有提出許多有效的方式來保護使用者的個人隱私。在使用者沒有同意的狀況下,不會有任何隱私資料被送到 LLM 之中。

只有想不到,沒有做不到:

透過一些外部商用的 LLM ,許多相關的功能可以很快速的產生相關的 POC (Prove Of Concept) 。不用像以前,需要使用相關 NLP 與 NLU 的時候,還需要自己透過架設機器來訓練自己的模型。 這一次的競賽,每一個團隊的完成程度都相當的高。 讓我們的競賽作品每一件都像是已經可以上線的作品一樣,都是可以透過內部測試機來直接試玩。

結論 - 「Let's GEM!」

最後來轉述評審們給予的一些評論,作為本篇文章的結論。 

  • 「這邊的許多點子都很棒,希望可以趕快加入產品線。」
  • 「生成式 AI 的許多點子,透過本次的活動變得更真實。」
  • 「透過大型語言模型的助益,許多以前只能想像的事情,這次都展示出來。」
  • 「生成式 AI 創造了新的想法,讓許多創作者的想法可以更有用的方式來販售給使用者。」

雖然是第五屆的內部黑客松,每一年要舉辦這個活動除了賽期的兩個多月外。更有之前相關活動與相關訓練的鋪陳,對於工作團隊來說是相當辛苦的。 但是每一次決賽的時候,看到每一組同仁都在快樂的玩耍,盡情地展示他們的想法。(更有一些同仁是透過戲劇表演的方式來呈現,讓人以為他們每一年都是為了「最佳人氣獎」而來的。)看到這些有創意的想法與評審們讚不絕口的評論,讓工作小組能打起精神,準備明年度的挑戰。 究竟明年會有什麼新題目呢?讓我們一起拭目以待。

活動小結

立即加入「LINE 開發者官方社群」官方帳號,就能收到第一手 Meetup 活動,或與開發者計畫有關的最新消息的推播通知。▼

「LINE 開發者官方社群」官方帳號 ID:@line_tw_dev 

img

關於「LINE 開發社群計畫」

LINE 2019 年初在台灣啟動「LINE 開發社群計畫」,將長期投入人力與資源在台灣舉辦對內對外、線上線下的開發者社群聚會、徵才日、開發者大會等,已經舉辦 30 場以上的活動。歡迎讀者們能夠持續回來察看最新的狀況。詳情請看: