k0s 安装指南

本文介绍如何使用手动方式安装 k0s 集群。

1. 准备环境

首先准备三台机器:

机器角色 机器 IP 操作系统
controller 192.168.0.211 Ubuntu 22.04.4 LTS
worker 192.168.0.212 Ubuntu 22.04.4 LTS
worker 192.168.0.213 Ubuntu 22.04.4 LTS

Read More

【GatesNotes】AI 将彻底改变人们使用电脑的方式翻译

此文是关于比尔盖茨的博文代理的未来:人工智能将彻底改变您使用计算机的方式,并颠覆软件行业的翻译。我觉得这是一篇能让人工智能爱好者热血沸腾的文章。

直到今天,我仍然像当初和保罗·艾伦一起创办微软时一样热爱软件。但是,尽管自那以后的几十年里软件改进了许多,但在很多方面,软件仍然相当笨拙。

在计算机上执行任何任务时,您必须告诉设备要使用哪个应用程序。您可以使用 Microsoft Word 和 Google Docs 起草商业计划书,但它们无法帮助您发送电子邮件,分享自拍,分析数据,安排聚会或购买电影票。即使最好的网站也不能完全了解您的工作、个人生活、兴趣和关系,它们利用这些信息为您做事的能力有限。这种事情今天只能由另一个人来完成,比如密友或个人助理。

在未来五年中,这种情况将发生彻底改变。您不必再为不同的任务使用不同的应用程序。您只需用日常语言告诉设备您要做什么。而且,根据您选择与其共享的信息量,该软件将能够做出个性化响应,因为它将深入了解您的生活。在不久的将来,任何在线的人都能拥有由人工智能驱动的个人助理,其技术将远超当今的技术。

这种称为”agent“(代理)的软件可以响应自然语言,并能够根据其对用户的了解来完成许多不同的任务。近 30 年来,我一直在思考代理的问题,并在 1995 年出版的《未来之路》一书中提到过它们,但由于人工智能的进步,它们直到最近才变得实用。

代理不仅会改变每个人与计算机的交互方式。它们还将颠覆软件行业,带来计算机领域从输入命令转变为点击图标以来最大的革命。

Read More

LLAMA 2 论文翻译与解读

题目

论文名为《LLAMA 2: Open Foundation and Fine-Tuned Chat Models》,该论文发表于 2023-07-19,论文的作者由 68 位来自 GenAI, Meta 的研究人员组成。题目直白的翻译是“LLAMA 2:开源基座以及经过微调的聊天模型”。

摘要

摘要主要介绍本文的主要贡献:

作者团队开发并发布了 LLAMA 2,这是一组经过预训练和微调的大型语言模型(LLM)的集合,其参数范围从 70 亿到 700 亿。本文的微调 LLM 称为 Llama 2-Chat,针对对话用例进行了优化。在大多数基准上,本文的模型优于开源聊天模型,并且基于对有用性和安全性的人类评估,可能是闭源模型的合适替代品。本文详细描述了对 Llama 2-Chat 进行微调和安全改进的方法,以使社区能够以本文的工作为基础,为 LLM 的可靠发展做出贡献。

Anthropic LLM 论文翻译与解读

此篇博文主要结合原论文和沐神的Anthropic LLM 论文精读【论文精读·51】视频进行翻译与解读。

题目

论文名为《Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback》,该论文发布于 2022-04-12,论文的作者由 31 位来自 Anthropic 的研究人员组成。题目直白的翻译是“通过基于人类反馈的强化学习来训练一个有益无害的助手”。

摘要

摘要开门见山,直接介绍本文采用偏好建模和基于人类反馈的强化学习(RLHF)的来微调语言模型,以充当有益和无害的助手。本文发现,这种对齐训练提高了几乎所有 NLP 评估的性能,并且与 Python 编码和摘要等专业技能的训练完全兼容。接着介绍本文的主要贡献:

  1. 本文探索了一种迭代的在线训练模式,其中偏好模型和 RL 策略以每周一次的频率,并且采用最新的人类反馈数据更新,有效地改进了数据集和模型。

    Read More

InstructGPT 论文翻译与解读

此篇博文主要结合原论文和沐神的InstructGPT 论文精读【论文精读·48】视频进行翻译与解读。

题目

论文名为《Training language models to follow instructions with human feedback》,该论文发布于 2022-03-04,论文的作者由 20 位来自 OpenAI 的研究人员组成。题目直白的翻译是“使用人类反馈训练语言模型遵循指令”,大意是通过使用人类反馈来训练语言模型,使其能够更好地遵循用户的指令

摘要

摘要主要介绍以下几点:

Read More

使用 Phoronix Test Suite 测试 Ubuntu 服务器性能

为后续比较不同框架的性能,需要先测试服务器的性能。本文介绍如何使用 Phoronix Test Suite 测试 Ubuntu 服务器性能。

1. 安装 Phoronix Test Suite

https://phoronix-test-suite.com/?k=downloads 获得最新的测试套件下载地址,使用以下命令进行下载:

1
wget https://phoronix-test-suite.com/releases/repo/pts.debian/files/phoronix-test-suite_10.8.4_all.deb

Read More

Netty如何处理TCP粘包问题?

在开发naive-rpc过程中需要处理 TCP 粘包的问题,此处结合网上的一些资料进行了总结。

1. 为什么 TCP 协议有粘包问题?

当应用层协议使用 TCP 协议传输数据时,TCP 协议可能会将应用层发送的数据拆分成多个包依次发送,而数据的接收方收到的数据段可能由多个”应用层包“组成,因此当应用层从 TCP 缓冲区读取数据并发现粘包时,需要将收到的数据进行拆分。

粘包不是 TCP 协议造成的,而是应用层协议设计者对 TCP 协议的理解不够深入,他们忽略了 TCP 协议的定义,缺乏设计应用层协议的经验。在本文中,我们将从 TCP 协议和应用层协议两个方面来分析粘性数据包是如何在我们经常提到的 TCP 协议中出现的。

Read More