如果最近你想找一份大模型相关的工作，本文收集了一些面试题可以准备一下。对于这些题目，一般也可以找个大模型来反复问一下，一般来讲提示词也没什么特别要求，比如“你是一位LLM大语言模型专家，现在有些面试问题请你回答” ，为了避免胡说八道，在大模型回答之后可以提示它检查一下“检查一下你的回答，抓重点回答这个面试题” ，再不放心可以多找几家的大模型应用来回答，相互印证。如果问题太新，要提示先联网搜索再总结回答（这个提示词不会写或者找不到谁家大模型应用有这能力，就别面了）。

当然，如果你想面试大模型应用开发岗，建议多找几家大模型开放平台的API 练一下：4月国产头部大模型开放平台及百模备案信息更新 ，用微软的几个开源框架对接上跑跑， 微软推出18 节AI课程，开始使用生成式 AI 构建应用  。

如果是想尝试一下很热门的AI Agent的开发，可能先找百度文心Agent,字节Coze之类的低码平台体验，未必要直接用大模型 API 去构建，一方面那些可以被大模型使用的插件工具资源不好找，即便有资源，效果也就那么回事，没必要浪费调试时间。

解释 LLM 中token的概念哪些因素会导致 LLM 中的偏见？如何减轻 LLM 中的“幻觉”现象解释 ChatGPT 的“零样本”和“少样本”学习的概念了解MOE吗?他的作用是什么?解释一下大模型的涌现能力？预训练和微调任务有什么区别？两者的目的是什么?为什么现在的大模型大多是 decoder-only 的架构？请画图说明一下 Transformer 基本流程为什么基于 Transformer 的架构需要多头注意力机制？介绍下lora和q-lora？你训练的时候用 float16，还是bfloat16，float32？为什么？怎么解决训练使用float16导致溢出的问题？LLaMA 模型为什么要用旋转位置编码？LLaMA 模型在训练过程中如何处理梯度消失和梯度爆炸问题?LLaMA 模型使用了哪种激活函数，为什么？针对长序列，如何在Transformer中实现有效的位置编码？对LLMs进行数据预处理有哪些常见的做法？训练数据集的过滤和去重是如何操作的? 详细讲解下这些步骤的重要性及其对模型性能的潜在影响?如何缓解大语言模型inference时候重复的问题?