macrogpt-prertrain 大模型全量预训练(1b3), 多卡deepspeed/单卡adafactor 源码地址：https://github.com/yongzhuo/MacroGPT-Pretrain.git 踩坑 1. 数据类型fp16不太行, 很容易就Nan了, 最好是fp32, tf32, 2. 单卡如果显存不够, 可以用优化器adafactor, 3. 如果…

又是学习数据库的一天，今天学的不多，昨天主要是对数据库进行各种操作，今天对表进行各种操作，挺有意思的，让我们一起看看都有哪些内容。 1.表操作-修改 (1)添加字段 ALTER TABLE 表名 ADD 字段名 类型（长度…

前言 有的小伙伴仍然在使用mingw编译器，这时只能重新编译opencl的sdk库。本文档简单记录下win10下，使用mingw11.20编译的过程，有需要的小伙伴可以参考下 一、安装所需软件 1.安装git，教程比较多，不再重复 2.安装cm…

文章目录 1、简介2、Qt5 版本归纳3、下载地址3.1、典型版本3.1.1、Qt5.0.03.1.2、Qt5.9.93.1.3、Qt5.12.12 3.2、当前Qt5最新版本 1、简介 Qt6 出生刚刚好一年的时间，已经出到6.6版本，带来了许多的新特性和改进。今天刚刚好抽空总结下陪伴 我工作这么长…

1，CSS简介 1.1 CSS-网页的美容师 CSS的主要使用场景就是美化网页，布局页面的 CSS也是一种标记语言 CSS主要用于设置HTML页面中的文本内容（字体，大小，对齐方式等）、图片的外形（宽高、边框样式…

从小厂出来，没想到在另一家公司又寄了。 到这家公司开始上班，加班是每天必不可少的，看在钱给的比较多的份上，就不太计较了。没想到12月一纸通知，所有人不准加班，加班费不仅没有了，薪资还要降40…

为什么说独特的技术成长之路呢，因为从上了大学到现在读研，见识了很多的语言，也曾经迷茫过。在大学中学过C，C，Java，Python，Js，GO等等很多的语言知识，有一些比较熟悉有一些…

ACLLib 是一个基于Win32API的函数库，提供了相对较为简单的方式来做Windows程序实际提供了一个.c和两个.h，可以在MSVC和Dev C(MinGW)中使用以GPL方式开源放在github上纯教学用途，但是编程模型和思想可以借鉴