2023年3月4日
RLHF：从GPT3.5系列到ChatGPT的临门一脚
摘要： 对齐与能力 能力（Capability）：模型完成一些特定任务的能力。 未对齐（misalignment）：模型在训练集上表现很好，但在测试集上表现很差。说明模型有能力学习，但训练设定的目标不对^1。 类似初版的GPT-3这类大模型，已经在大量的数据上训练过，也能够生成人类语言，但无法生成人类期望的 阅读全文
posted @ 2023-03-04 17:13 LexLuc 阅读(720) 评论(0) 推荐(0)
梳理GPT系列模型的技术路线
摘要： GPT系列模型的历史 GPT-1 Paper 关键研究成果 将transformer架构与无监督的预训练结合，相较于之前的语言模型将有非常大的提升； 基于预训练之后的模型针对一个小任务进行微调（fine-tune），将凸显出比较强的自然语言理解能力； GPT-2 Paper 关键研究成果 新增多任务 阅读全文
posted @ 2023-03-04 17:00 LexLuc 阅读(1427) 评论(0) 推荐(0)
HBase Regions In Transition（RIT）问题解决思路及操作方法
摘要： 问题描述 Java API报错 java.io.IOException: Unable to find region for 2520192391014818087 in $TABLENAME ； ERROR Utils: Aborting task org.apache.hadoop.hbase. 阅读全文
posted @ 2023-03-04 15:07 LexLuc 阅读(2886) 评论(0) 推荐(0)
2023年3月2日
HBase存储空间撑爆导致拒绝服务的问题解决思路与操作方法记录
摘要： 问题描述 源表数据将HBase集群内节点的存储空间撑爆，导致HBase集群内节点拒绝服务； 思路 筛选出没用且占用空间最大的n张表，通过hbase client删除。 修复步骤 查询HDFS占用空间情况：hdfs dfs -df -h； 确认是否是HBase表占用的空间比较大：hdfs dfs -d 阅读全文
posted @ 2023-03-02 20:00 LexLuc 阅读(291) 评论(0) 推荐(0)
2023年2月21日
Linux平台实现简单的IP白名单策略
摘要： /etc/hosts.allow与/etc/hosts.deny的判定机制 读取/etc/hosts.allow文件，从上到下读取： 如果守护程序-客户端对与文件中的第一行匹配，则授予访问权限； 如果该行不匹配，则读取下一行并执行相同的检查； 如果读取了所有行，但没有匹配，则从顶部开始读取/etc/ 阅读全文
posted @ 2023-02-21 22:27 LexLuc 阅读(1618) 评论(0) 推荐(0)
2022年12月20日
计算密集型任务中使用的并行任务分配算法
摘要： 概述 概念 Task Worker Arg Chunk 迭代 Taskel Parallelization Overhead 目标 场景 密集场景 稀疏场景 Multiprocessing.Pool 的输入分块算法 量化算法效率 量化模型（待续） 概述 需求开发过程中，难免会遇到单核算力不足的场景。 阅读全文
posted @ 2022-12-20 20:21 LexLuc 阅读(715) 评论(0) 推荐(0)
2022年11月9日
neo4j批量导入数据操作备忘
摘要： 全量导入 $ neo4j stop && neo4j-import --into /path/to/neo4j/neo4j-community-3.3.0/data/databases/graph.db --id-type string --delimiter "csv文件列分隔符" --ignor 阅读全文
posted @ 2022-11-09 20:25 LexLuc 阅读(228) 评论(0) 推荐(0)
2022年11月7日
Git 命令手册
摘要： $ git config --global user.name 'user_name' $ git config --global user.email 'user_email' $ git config --global http.sslCAInfo /XXXX/XXX/XXX.crt $ git 阅读全文
posted @ 2022-11-07 20:31 LexLuc 阅读(48) 评论(0) 推荐(0)
2022年10月21日
知识图谱构建流程
摘要： 概述 概念对齐 本体结构设计 明确问题 思考原则 举例 可复用本体 定义新本体 确定主干关系 细化属性列表 细化本体关系 建立约束 一些提示 本体实例化 知识图谱实例化构建服务 实体关系图 概述 本文以构建无线需求知识图谱为例，介绍了无线研发领域构建知识图谱的构建流程，分享出来供各领域参考、讨论，共 阅读全文
posted @ 2022-10-21 16:30 LexLuc 阅读(1056) 评论(0) 推荐(1)
2022年8月10日
微软的数字化转型案例——探针平台
摘要： 观点 颠覆一直是业务转型的催化剂。为了走在最前沿，我们正在变得更加敏捷、高效和创新。这意味着改变我们的系统和流程，以支持并快速适应新产品、服务、商业模式、法规以及其他任何我们遇到的事情。 微软支持向云迁移，因为它为我们提供了支持下一代业务应用程序所需的基础架构。它还提高了协作和生产力，使我们的员工更 阅读全文
posted @ 2022-08-10 20:47 LexLuc 阅读(366) 评论(0) 推荐(0)