当前位置: 首页 > news >正文

【橘子分布式】Thrift RPC(理论篇)

一、简介

首先还是那句话,概念网上已经很多了,我们就不多逼逼了。我来大致介绍一下。

  1. Thrift是一个RPC框架
  2. 可以进行异构系统(服务的提供者 和 服务的调用者 不同编程语言开发系统)的RPC调用
  3. 为什么在当前的系统开发中,会存在着异构系统的RPC?
    1. 存在异构系统的调用
      Python ------> Hbase(Java)
      thrift
    2. 遗留系统的整合
  4. 设计一个异构系统的RPC 解决的核心问题是什么?
    肯定:异构系统的RPC 没有问题 只要双方 用各自的编程语言实现 网络编程中(client server)建立网络连接,进行通信即可。
    挑战:
    1. 得需要精通不同编程语言的网络 IO 线程等相关技术内容 (java go python c delphi…)
    2. 通信数据的格式,尤其是二进制的格式,得统一处理(中间的格式)

而thrift就是解决以上问题,作为rpc的框架封装出来给开发使用。

于是我们可以来看一下他的一些定义和性质特点。

1. 基本概念:是apache组织开源的一个顶级异构系统RPC框架,用于完成异构系统的PRC通信。多种编程语言 Java C++ PHP Phyton Ruby Node.js c# ....2007 FaceBook Thrift 开源。
2. 特点:1. 跨语言支持 2. 开发快速 3. 学习简单 IDL语言 4. 稳定 3. Thrift的设计思想1. 针对于不同的编程语言提供了一个库(jar) 作用:网络通信的代码 协议(序列化)相关的内容  java libthrift 2. IDL语言 中立语言 用于服务发布3. Thrift命令把IDL语言 自动转换成 你需要的编程语言。

在这里插入图片描述
所以我们现在来总结一下,他就是个rpc框架,并且提供了多语言的异构,我们只需要编写对应的IDL中间语言文件.thrift文件,然后使用thrift命令,把这个idl中间文件编译成为目标语言的文件,这样就生成了对应的类。我们暂时先不说rpc的问题,这个放在我们的实践篇来说。

二、thrift的使用

1、ThriftRPC安装

我们需要去参考一下thrift官方文档,我们看一下其中的安装操作。
这个安装操作安装的就是把IDL转换成具体编程语言代码的命令。你可以理解为一个编译器。
在这里插入图片描述
我们可以看到他提供了多种操作系统的安装方式。
在这里插入图片描述
我们以mac为例,那就很简单了。

brew install thrift 

完成安装即可

 thrift -helpthrift --version以上两个命令都可以用来验证是否安装成功。

因为我们是java环境,我们在java环境中开发的,所以我们需要安装一个库,针对于不同的编程语言 安装库

<dependency><groupId>org.apache.thrift</groupId><artifactId>libthrift</artifactId><version>0.18.0</version>
</dependency>

如果你是python那就pip install thrift ,每种语言都有自己的包管理方式。这里就不多说了。
然后我们还需要在idea中安装一下thrift的插件支持。
在这里插入图片描述
这个插件可以支持我们在idea中进行相应的idl开发。

2、IDL语法

我们上面说了,thrift对于多语言异构的支持是我们编写一份.thrift文件,这个文件称之为IDL,然后使用对应的命令来翻译成目标语言的文件,可见其核心就在这个IDL上,我们来看一下如何编写IDL的语法。
我们的目的是通过在thrift文件中定义相关的信息,然后通过thrift命令生成各种语言的代码,这里我们以java为例。

2.1、包路径:

namespace java com.levi.thrift // 定义java语言的包路径
namespace go levi.thrift // 定义go语言的包路径
namespace py levi.thrift // 定义python语言的包路径
namespace php levi.thrift // 定义php语言的包路径
namespace csharp levi.thrift // 定义c#语言的包路径
namespace cpp levi.thrift // 定义c++语言的包路径
namespace rb levi.thrift // 定义ruby语言的包路径
namespace perl levi.thrift // 定义perl语言的包路径
namespace nodejs levi.thrift // 定义nodejs语言的包路径
namespace lua levi.thrift // 定义lua语言的包路径
namespace dart levi.thrift // 定义dart语言的包路径
namespace rust levi.thrift // 定义rust语言的包路径
namespace swift levi.thrift // 定义swift语言的包路径
namespace kotlin levi.thrift // 定义kotlin语言的包路径
namespace typescript levi.thrift // 定义typescript语言的包路径

2.2、基本类型:

i8: 有符号8位整数类型  在java中就是byte 下面都是java的类型,其余的语言有自己的
i16: 有符号16位整数类型 在java中就是short
i32: 有符号32位整数类型 在java中就是int
i64: 有符号64位整数类型 在java中就是long
double: 64位浮点数类型 在java中就是double
string: 字符串类型 在java中就是String 在所有语言中就是UTF-8编码的字符串 可以是单引号也可以是双引号
binary: 二进制类型 在java中就是byte[]
void: 空类型 在java中就是void

2.3、集合类型:

list<T>  有序可重复类型 在java中就是java.util.List<T>
set<T>   无序不可重复类型 在java中就是java.util.Set<T>
map<K,V> 键值对类型 在java中就是java.util.Map<K,V>
举一个map的例子,如果你想生成一个Map<Integer,String>类型的代码,就要这样声明。
map<i32,string> sex = {1:"男",2:"女"}
集合类型是这样,list<i32> age = [1,2,3,4,5]

2.4、struct 自定义对象

在java中就是实体类,类似于c的结构体:

 struct User {1:i32 id,2:string name,3:i32 age}1、举一个struct的例子,如果你想生成一个User类型的代码,就要这样声明。里面有序号,类型,属性名称。2、struct的类不能继承,成员与成员之间的分割可以是逗号,也可以是分号。3、结构体里面的每一个字段都要进行编号,从1开始。4、结构是变量类型,变量名。5、还有一种类型,叫做optionl,就是可选类型,就是可以为空的类型,就是在序列化的时候是可选的,没有值就不序列化,有就序列化。默认为每一个成员都加入的关键字,可以不写。我上面就没写,其实默认就是。你妹提供默认值,他就不做序列化。6、还有一个关键字叫required,就是必须的,就是在序列化的时候是必须的,没有值就报错。和optionl相反。你妹提供默认值,他就报错。举个例子:其中email就是可选的,name就是必须要有值的。namespace java com.levi.entity
struct User{1: string name ='levi',2: optional i32 age,3: list<i32> ages = [1,2,3,4],4. required i32 hieght
}

2.5、enum 枚举类型

在java中就是枚举类:枚举以逗号分隔,并且不支持嵌套(枚举内部不能再定义枚举)
而且枚举中的整形只能是i32

namespace java com.levi.entity
enum Sex {MALE=1,FEMALE=2}

2.6、异常类型:

 exception 异常类型,在java中就是异常类:异常以逗号分隔也可以不分割,啥也不加都行,并且不支持嵌套(异常内部不能再定义异常)而且异常中的整形只能是i32namespace java com.levi.exceptionexception UserException {1: i32 code, 2: string message}

2.7、服务 (Service)

其实就是每种语言中的那些业务类。

服务接口 
service UserService{bool login(1:string name,2:string password)void register(1:User user) // 这个User不是实体类,而是我们前面定义的struct, idl语言中的结构体,也就是说你要先定义User这个结构体 
}注意:1. 异常:throws关键字可以抛出异常之类的,异常列表里面可以有多个异常,这些异常也必须是我们前面定义的idl中的异常service UserService{bool login(1:string name,2:string password) throws (1:UserException e,2:XXXException e)void register(1:User user) // 这个User不是实体类,而是我们前面定义的struct, idl语言中的结构体,也就是说你要先定义User这个结构体 }3. oneway 表示客户端发起请求后不等待响应返回,立刻往下执行,因为没有返回值的概念,只能和void 这种操作配合。service UserService{bool login(1:string name,2:string password) throws (1:UserException e,2:XXXException e)oneway void register(1:User user) // 这个User不是实体类,而是我们前面定义的struct, idl语言中的结构体,也就是说你要先定义User这个结构体  }4. 继承,和struct不同,这里可以继承service BaseService{void m1(1:string name)}service UserService extends BaseService{}

2.8、include(模块化)

作用:进行IDL模块化编程
可以在一个thrift文件中,以include命令引入其他的thrift文件作为使用,最终生成的文件里面会引用,并且去掉前缀啥的。他的含义就是对应着你在一个类里面引用其他的包的类或者实体,这样的一个效果。
levi1.thriftstruct User{1:string name}
levi2.thrift include "levi1.thrift"service UserService{void register(1:levi1.User user)}

2.9、注释

# 单行注释
// 单行注释
/** 多行注释*/

3、实际操作IDL

先在pom文件中引入一下jar包依赖。

<dependency><groupId>org.apache.thrift</groupId><artifactId>libthrift</artifactId><version>0.22.0</version></dependency>

Thrift把IDL生成对应代码的命令:

thrift --gen java xx.thrift 
thrift --gen py xx.thrift
以上是两种翻译为java和py的命令,其余的语言可以查看文档。thrift --helplevi@192 ~ % thrift --help
Usage: thrift [options] file
Options:-version    Print the compiler version-o dir      Set the output directory for gen-* packages(default: current directory)-out dir    Set the ouput location for generated files.(no gen-* folder will be created)-I dir      Add a directory to the list of directoriessearched for include directives-nowarn     Suppress all compiler warnings (BAD!)-strict     Strict compiler warnings on-v[erbose]  Verbose mode-r[ecurse]  Also generate included files-debug      Parse debug trace to stdout--allow-neg-keys  Allow negative field keys (Used to preserve protocolcompatibility with older .thrift files)--allow-64bit-consts  Do not print warnings about using 64-bit constants--gen STR   Generate code with a dynamically-registered generator.STR has the form language[:key1=val1[,key2[,key3=val3]]].Keys and values are options passed to the generator.Many options will not require values.Options related to audit operation--audit OldFile   Old Thrift file to be audited with 'file'-Iold dir    Add a directory to the list of directoriessearched for include directives for old thrift file-Inew dir    Add a directory to the list of directoriessearched for include directives for new thrift fileAvailable generators (and options):c_glib (C, using GLib):cl (Common Lisp):no_asd:          Do not define ASDF systems for each generated Thrift program.sys_pref=        The prefix to give ASDF system names. Default: thrift-gen-cpp (C++):cob_style:       Generate "Continuation OBject"-style classes.no_client_completion:Omit calls to completion__() in CobClient class.no_default_operators:Omits generation of default operators ==, != and <templates:       Generate templatized reader/writer methods.pure_enums:      Generate pure enums instead of wrapper classes.include_prefix:  Use full include paths in generated files.moveable_types:  Generate move constructors and assignment operators.no_ostream_operators:Omit generation of ostream definitions.no_skeleton:     Omits generation of skeleton.d (D):dart (Dart):library_name:    Optional override for library name.library_prefix:  Generate code that can be used within an existing library.Use a dot-separated string, e.g. "my_parent_lib.src.gen"pubspec_lib:     Optional override for thrift lib dependency in pubspec.yaml,e.g. "thrift: 0.x.x".  Use a pipe delimiter to separate lines,e.g. "thrift:|  git:|    url: git@foo.com"delphi (Delphi):register_types:  Enable TypeRegistry, allows for creation of struct, unionand container instances by interface or TypeInfo()constprefix:     Name TConstants classes after IDL to reduce ambiguitiesevents:          Enable and use processing events in the generated code.xmldoc:          Enable XMLDoc comments for Help Insight etc.async:           Generate IAsync interface to use Parallel Programming Library (XE7+ only).com_types:       Use COM-compatible data types (e.g. WideString).old_names:       Compatibility: generate "reserved" identifiers with '_' postfix instead of '&' prefix.rtti:            Activate {$TYPEINFO} and {$RTTI} at the generated API interfaces.erl (Erlang):legacynames:     Output files retain naming conventions of Thrift 0.9.1 and earlier.delimiter=       Delimiter between namespace prefix and record name. Default is '.'.app_prefix=      Application prefix for generated Erlang files.maps:            Generate maps instead of dicts.go (Go):package_prefix=  Package prefix for generated files.thrift_import=   Override thrift package import path (default:github.com/apache/thrift/lib/go/thrift)package=         Package name (default: inferred from thrift file name)ignore_initialismsDisable automatic spelling correction of initialisms (e.g. "URL")read_write_privateMake read/write methods private, default is public Read/Writeskip_remoteSkip the generating of -remote folders for the client binaries for servicesgv (Graphviz):exceptions:      Whether to draw arrows from functions to exception.haxe (Haxe):rtti             Enable @:rtti for generated classes and interfacesbuildmacro=my.macros.Class.method(args)Add @:build macro calls to generated classes and interfaceshtml (HTML):standalone:      Self-contained mode, includes all CSS in the HTML files.Generates no style.css file, but HTML files will be larger.noescape:        Do not escape html in doc text.java (Java):beans:           Members will be private, and setter methods will return void.private_members: Members will be private, but setter methods will return 'this' like usual.private-members: Same as 'private_members' (deprecated).nocamel:         Do not use CamelCase field accessors with beans.fullcamel:       Convert underscored_accessor_or_service_names to camelCase.android:         Generated structures are Parcelable.android_legacy:  Do not use java.io.IOException(throwable) (available for Android 2.3 and above).option_type=[thrift|jdk8]:thrift: wrap optional fields in thrift Option type.jdk8: Wrap optional fields in JDK8+ Option type.If the Option type is not specified, 'thrift' is used.rethrow_unhandled_exceptions:Enable rethrow of unhandled exceptions and let them propagate further. (Default behavior is to catch and log it.)java5:           Generate Java 1.5 compliant code (includes android_legacy flag).future_iface:    Generate CompletableFuture based iface based on async client.reuse_objects:   Data objects will not be allocated, but existing instances will be used (read and write).reuse-objects:   Same as 'reuse_objects' (deprecated).sorted_containers:Use TreeSet/TreeMap instead of HashSet/HashMap as a implementation of set/map.generated_annotations=[undated|suppress]:undated: suppress the date at @Generated annotationssuppress: suppress @Generated annotations entirelyunsafe_binaries: Do not copy ByteBuffers in constructors, getters, and setters.jakarta_annotations: generate jakarta annotations (javax by default)annotations_as_metadata:Include Thrift field annotations as metadata in the generated code.javame (Java ME):js (Javascript):jquery:          Generate jQuery compatible code.node:            Generate node.js compatible code.ts:              Generate TypeScript definition files.with_ns:         Create global namespace objects when using node.jses6:             Create ES6 code with Promisesthrift_package_output_directory=<path>:Generate episode file and use the <path> as prefiximports=<paths_to_modules>:':' separated list of paths of modules that has episode files in their rootjson (JSON):merge:           Generate output with included files mergedkotlin (Kotlin):lua (Lua):omit_requires:   Suppress generation of require 'somefile'.markdown (Markdown):suffix:          Create files/links with/out 'md|html' default Nonenoescape:        Do not escape with html-entities in doc text.netstd (C#):wcf:             Adds bindings for WCF to generated classes.serial:          Add serialization support to generated classes.union:           Use new union typing, which includes a static read function for union types.pascal:          Generate Pascal Case property names according to Microsoft naming convention.net6:            Enable features that require net6 and C# 8 or higher.net8:            Enable features that require net8 and C# 12 or higher.no_deepcopy:     Suppress generation of DeepCopy() method.async_postfix:   Append "Async" to all service methods (maintains compatibility with existing code).ocaml (OCaml):perl (Perl):php (PHP):inlined:         Generate PHP inlined filesserver:          Generate PHP server stubsoop:             Generate PHP with object oriented subclassesclassmap:        Generate old-style PHP files (use classmap autoloading)rest:            Generate PHP REST processorsnsglobal=NAME:   Set global namespacevalidate:        Generate PHP validator methodsjson:            Generate JsonSerializable classes (requires PHP >= 5.4)getters_setters: Generate Getters and Setters for struct variablespy (Python):zope.interface:  Generate code for use with zope.interface.twisted:         Generate Twisted-friendly RPC services.tornado:         Generate code for use with Tornado.no_utf8strings:  Do not Encode/decode strings using utf8 in the generated code. Basically no effect for Python 3.coding=CODING:   Add file encoding declare in generated file.slots:           Generate code using slots for instance members.dynamic:         Generate dynamic code, less code generated but slower.dynbase=CLS      Derive generated classes from class CLS instead of TBase.dynfrozen=CLS    Derive generated immutable classes from class CLS instead of TFrozenBase.dynexc=CLS       Derive generated exceptions from CLS instead of TExceptionBase.dynfrozenexc=CLS Derive generated immutable exceptions from CLS instead of TFrozenExceptionBase.dynimport='from foo.bar import CLS'Add an import line to generated code to find the dynbase class.package_prefix='top.package.'Package prefix for generated files.old_style:       Deprecated. Generate old-style classes.enum:            Generates Python's IntEnum, connects thrift to python enums. Python 3.4 and higher.type_hints:      Generate type hints and type checks in write method. Requires the enum option.rb (Ruby):rubygems:        Add a "require 'rubygems'" line to the top of each generated file.namespaced:      Generate files in idiomatic namespaced directories.rs (Rust):st (Smalltalk):swift (Swift 3.0):log_unexpected:  Log every time an unexpected field ID or type is encountered.debug_descriptions:Allow use of debugDescription so the app can add description via a cateogory/extensionasync_clients:   Generate clients which invoke asynchronously via block syntax.namespaced:      Generate source in Module scoped output directories for Swift Namespacing.cocoa:           Generate Swift 2.x code compatible with the Thrift/Cocoa librarypromise_kit:     Generate clients which invoke asynchronously via promises (only use with cocoa flag)safe_enums:      Generate enum types with an unknown case to handle unspecified values rather than throw a serialization errorxml (XML):merge:           Generate output with included files mergedno_default_ns:   Omit default xmlns and add idl: prefix to all elementsno_namespaces:   Do not add namespace definitions to the XML modelxsd (XSD):

我们这里来试试翻译java。thrift -r --gen java xx.thrift -r表示include也一起生成,其他模块的也引入进来。
我们首先来编一个idl文件test1.thrift

namespace java com.levi.entity
struct User{1: string name ='levi',2: optional i32 age,3: list<i32> ages = [1,2,3,4],4: required i32 hieght
}exception UserException {# 异常编码1: i32 code,# 异常信息2: string message
}

然后我们再来编写一个idl文件test2.thrift
并且我们引入了这个test1里面的User。

include "test1.thrift"service UserService{void add(1:test1.User user)
}

我们进入这个目录:
在这里插入图片描述
然后执行thrift -r --gen java xx.thrift 来生成对应的类,但是还有一个问题,我们的test2里面引用了test1,所以我们应该先生成test1然后test2,要是引用关系复杂那不就烦死了,于是thrift提供了一个命令-r参数。
在这里插入图片描述
他可以递归的翻译,所有包括include的一起生成,比如我们test2中引用了test1,那么我们只需要-r test2就可以了,test1可以顺带一起生成,于是我们的命令就变成了。

thrift -r --gen java test2.thrift 

执行之后就会在同级目录下生成对应的thrift的java类。
在这里插入图片描述
此时注意,他不是我们的java源代码,我们需要把他复制到我们的src类包里面才能用。复制完了之后就可以把那些thrift的产物删了。
或者你也可以使用-o参数来指定你要输出的路径。
ok我们来看下我们的类。
在这里插入图片描述
我们发现@javax.annotation.Generated这个注解报错,这是因为我用的是jdk11,jdk11及其以上移除了该包,可以使用jar替代,我们重新引入一下即可。

<dependency><groupId>javax.annotation</groupId><artifactId>javax.annotation-api</artifactId><version>1.3.2</version>
</dependency>

此时我的pom如下。

<properties><thrift.version>0.22.0</thrift.version><maven.compiler.source>11</maven.compiler.source><maven.compiler.target>11</maven.compiler.target><project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
</properties><dependencies><dependency><groupId>org.apache.thrift</groupId><artifactId>libthrift</artifactId><version>${thrift.version}</version></dependency><dependency><groupId>javax.annotation</groupId><artifactId>javax.annotation-api</artifactId><version>1.3.2</version></dependency>
</dependencies>

ok,此时我们就生成了thrift rpc的一些必备前置物料了,后面我们将使用这个rpc框架进行通信,而他封装的那些语言异构也好,还是传输协议上的极致的压缩消息都是非常优秀的,这个框架在dubbo中大放异彩。

4、踩坑

register是thrift的关键字,不要用这个做命名方法或者参数啥的。

http://www.dtcms.com/a/278574.html

相关文章:

  • vscode 安装 esp ide环境
  • LeetCode-283. 移动零(Java)
  • 【STM32】什么在使能寄存器或外设之前必须先打开时钟?
  • Pandas-特征工程详解
  • 零基础入门Java虚拟机与单例模式:新手友好教程
  • Modbus 开发工具实战:ModScan32 与 Wireshark 抓包分析(二)
  • VSCODE 选中多行 需要同时按住alt键才可以
  • ShenYu实战、问题记录
  • 记字节前端面试一道简单的算法题
  • 注解@Autowired和@Resource的区别
  • CentOS7 OpenSSL升级1.1.1t;OpenSSH 升级 9.8p1 保姆级教程
  • jenkins 流水线比较简单直观的
  • 《每日AI-人工智能-编程日报》--2025年7月14日
  • Spring Boot - Spring Boot 集成 MyBatis 分页实现 PageHelper
  • 17.Python 中的相等性比较:== vs is
  • 具身智能零碎知识点(五):VAE中对使用KL散度的理解
  • 【Java EE初阶 --- 网络原理】初识网络
  • flink 和 spark 架构的对比
  • 如何在 Java 中使用 Redis 实现缓存优化?
  • 4G模块 A7670发送英文短信到手机
  • 11.设置 Python 3 和 pip 3 为默认版本
  • Google的Mediapipe开源框架介绍及使用说明
  • 基于浅切多道的晶圆切割 TTV 均匀性控制与应力释放技术
  • python学智能算法(十八)|SVM基础概念-向量点积
  • CentOS 安装jenkins笔记
  • windows在anaconda中下载安装fasttext
  • jenkins搭建笔记
  • .gitignore文件中的各种写法详解
  • JMeter 连接与配置 ClickHouse 数据库
  • JavaScript 高级封装方法指南