数据分析师如何利用大语言模型实现工作自动化与效率提升
如果你是一个数据分析师,或者接触过数据分析师的工作日常,你一定知道:
数据分析师作为业务的数据支持者,往往一手握着不同来源的数据,以 SQL 等技术手段提取与处理;另一手握着可视化方法、报表、报告等展现形式,对业务方、合作方、上级领导展示数据的内涵与关系。
如果你了解近几年的 AI 技术,一定知道当下人工智能已经具备非常强大的对话沟通能力(以 ChatGPT 为代表的大语言模型 LLM)、文生图能力、图片理解能力及文生视频能力等。这些模型已经可以让 AI 像人一样去处理许多文字、图片、视频等相关的工作。
AI 将是未来发展的趋势,很多专家学者都提到,AI 将会代替很多人类做的工作。居安思危,未雨绸缪。那么作为一个数据分析师,在 AI 可能替代掉你之前,不妨我们主动出击,先来了解如何用 AI 替代你自己。
本文我们以 LLM 出发,推演 AI 替代一个数据分析师的几个阶段。
第一阶段:数据分析师使用 LLM
使用 LLM 替代你的第一步,是你先要学会使用 LLM。在这一阶段,你只需要有一个和 LLM 可以交互的界面,就可以使用 LLM 强大的功能了。最初火起来的 ChatGPT,或是当前前沿的 GPT-4 都是理想的选项;国内一众大模型在中文方面的表现,于某些评测上已经超过了 GPT-4,故使用国内研发的大模型也是不错的选择,典型如文心一言、通义千问、讯飞星火、智谱清言等。
数据分析师的日常工作可以大致分为:拆解业务模式,制作数据指标体系,制作可视化看板/报表/报告。这几个步骤使用 LLM 均可以非常有效地提升各个环节的效率。
1. 拆解业务模式
对于拆解业务模式,你可以直接从数据分析师的角度,向 LLM 提问,为自己所要分析的行业得到可靠的信息输入。例如,你做为一个电商数据分析师,在不知该如何下手的时候,就可以向 LLM 提问,获取一些分析思路。
Prompt 示例:
我是一名电商数据分析师,最近需要分析 Q3 季度的用户留存情况。请帮我列出分析这个主题需要考虑的关键维度,并给出初步的分析框架。
2. 制作数据指标及其体系
制作数据指标及其体系,最基础的实操部分就是写 SQL。LLM 是可以直接帮助你来写 SQL 的,你的描述足够清晰,写出的 SQL 就可以足够准确。
Prompt 示例:
我有一个订单表 orders,包含字段 order_id, user_id, amount, create_time。请帮我写一个 SQL,查询过去 30 天每个用户的总消费金额,并按金额降序排列,只取前 10 名。
当然,若觉得结果缺一些信息(如没有按照日期升序排列),可以将需求融合到问题中,得到更为精确的答案。
3. 制作报表与可视化
数据分析师的另一个工作,就是制作报表、报告、可视化图表等展示材料。制作这些材料需要一些数据输入,这需要我们在提问时就将这些数据输入带入到问题中,让 LLM 根据这些数据进行扩写。
对于绘制图表,LLM 有时可能无法帮我们直接完成,但可以帮我们生成制作图表的 Python 代码。而在最新一版的模型中,这些代码结果也可以被渲染出来,绘制图表就可以非常轻松地完成。
如果不使用 LLM,完成以上所有步骤,既需要你查找资料,还需要构思 SQL,或是打开文档软件进行各个操作。如今,使用 LLM 可以非常快速完成以上所有工作,大大提升一个数据分析师的工作效率。
第二阶段:让 AI 学会使用工具
完成了第一阶段,有些分析师可能会说:AI 虽然功能强大,但也并不是什么事都会做的,比如它写出了 SQL,但没法读数据库吧?是的,一个崭新的 LLM 是不会读数据库,但如果你教会了它呢?这就需要提到一个非常著名的开源项目:LangChain。
LangChain 是一个用于开发由语言模型驱动的应用程序的框架。它专注于将 LLM 与其他数据源连接起来,并允许语言模型与其环境进行交互。LangChain 框架提供了两个主要的价值主张:
组件:LangChain 为处理语言模型所需的组件提供模块化的抽象。它为所有这些抽象提供了实现的集合,旨在易于使用。
Chain:这些链可以被看作是以特定方式组装这些组件,以便最好地完成特定用例。这旨在成为一个更高级别的接口。
LangChain 可以以 Tool 的形式,将一些 LLM 不能直接操作的功能工具化,再将使用这些工具的时机、输入输出分析到位,就可以进行调用了。甚至,LangChain 可以将上网检索集成为一个原装工具,这也构成当下很火的 RAG(Retrieval Augmented Generation)LLM 应用方案的主要依赖。别说是数据库了,整个互联网都会是 LLM 的'数据库'。


