生命周期事件
2024-12-29
可以在应用启动前执行一些逻辑代码,这意味着应用开始接受请求之前.这些代码只会执行一次,同样也可以在应用关闭的时候执行一些操作逻辑,同样也只会执行一次.这对整个应用中使用资源非常有用,这些资源在请求中共享.在之后进行释放,比如数据库连接池或者加载一个共享的机器学习模型.
378 字
|
2 分钟
大模型词表
2024-10-22
在文本输入 embedding 层之前,以中文文本为例,首先对文本进行分词并进行 one-hot 编码,分词肯定是根据词表来进行分词,那构建一个合适的词表就显得至关重要,过大或者过小都会对后续模型的训练效果产生影响。所以这里介绍当前各个大模型的词表构建方法。
1289 字
|
6 分钟
[[Vitron.pdf|Vitron]]
2024-10-21
Vitron 在前端采用了集合了 image,video,像素级别的视觉 encoder.在后端集成了最专业的视觉专家,让 Vitron 覆盖了基本所有的视觉任务。为了确保从 LLM 到后端模块进行功能调用时有效且精确的信息传递,通过同时整合离散的文本指令和连续的信号嵌入我们提出了一种新颖的混合方法。此外,我们设计了多种像素级时空视觉语言对齐学习,以使 VITRON 达到最佳的细粒度视觉能力。最后,建议一个跨任务协同模块,以学习最大化任务不变的细粒度视觉特征,增强不同视觉任务之间的协同。
2028 字
|
10 分钟