事务

事务是指一个操作，包含一个或多个 SQL 语句，这些语句的执行要么完全成功，要么完全失败，是一个不可分割的工作单位。

概览

查询和 DDL 单个语句是一个隐式事务，不支持多语句事务中包含查询和 DDL。每个单独的写入默认是一个隐式的事务，多个 INSERT INTO VALUES 可以组成一个显式事务。目前 PALO 不支持嵌套事务。

显式事务

显式事务需要用户主动开启、提交或回滚事务，目前不支持 DDL 和查询语句。

1BEGIN; 
2[INSERT INTO VALUES]
3COMMIT;

隐式事务

隐式事务是指用户在所执行的一条或多条 SQL 语句的前后，没有显式添加开启事务和提交事务的语句。

在 PALO 中，除Group Commit外，每个导入语句在开始执行时都会开启一个事务，并且在该语句执行完成之后，自动提交该事务；或执行失败后，自动回滚该事务。每个查询或者 DDL 也是一个隐藏事务。

隔离级别

PALO 当前支持的唯一隔离级别是 READ COMMITTED。在 READ COMMITTED 隔离级别下，语句只能看到在该语句开始执行之前已经提交的数据，它不会看到未提交的数据。

单个语句执行时，会在语句的开始捕获涉及到表的快照，即单个语句只能看见开始执行前其它事务的提交，单个语句执行期间不可见其它事务的提交。

当一个语句在多语句事务中执行时：

• 只能看到在该语句开始执行之前已经提交的数据。如果在执行第一个和第二个语句之间有另一个事务提交，那么同一事务中的两个连续语句可能会看到不同的数据。
• 目前看不到在同一事务中之前语句所做的更改。

不重不丢

PALO 有两个机制支持写入的不重不丢，使用 Label 机制提供了单个事务的不重，使用两阶段提交提供了协调多事务不重的能力。

Label 机制

PALO 的事务或者写入可以设置一个 Label。这个 Label 通常是用户自定义的、具有一定业务逻辑属性的字符串，不设置时内部会生成一个 UUID 字符串。Label 的主要作用是唯一标识一个事务或者导入任务，并且能够保证相同 Label 的事务或者导入仅会成功执行一次。Label 机制可以保证导入数据的不丢不重，如果上游数据源能够保证 At-Least-Once 语义，则配合 PALO 的 Label 机制，能够保证 Exactly-Once 语义。Label 在一个数据库下具有唯一性。

PALO 会根据时间和数目清理 Label，默认 Label 数目超过 2000 个就会触发淘汰，默认超过 3 天的 Label 也会被淘汰。Label 被淘汰后相同名称的 Label 可以再次执行成功，即不再具有去重语义。

Label 通常被设置为 业务逻辑+时间 的格式。如 my_business1_20220330_125000。这个 Label 通常用于表示：业务 my_business1 这个业务在 2022-03-30 12:50:00 产生的一批数据。通过这种 Label 设定，业务上可以通过 Label 查询导入任务状态，来明确的获知该时间点批次的数据是否已经导入成功。如果没有成功，则可以使用这个 Label 继续重试导入。

StreamLoad 2PC

StreamLoad 2PC，主要用于支持 Flink 写入 PALO 时的 EOS 语义。

显式事务操作

开启事务

1BEGIN;
2
3BEGIN WITH LABEL {user_label}; 

如果执行该语句时，当前 Session 正处于一个事务的中间过程，那么 PALO 会忽略该语句，也可以理解为事务是不能嵌套的。

提交事务

1COMMIT;

用于提交在当前事务中进行的所有修改。

多条 SQL 语句写入

目前 PALO 中支持 2 种方式的事务写入。

单表多次INSERT INTO VALUES写入

假如表的结构为：

1CREATE TABLE `dt` (
2    `id` INT(11) NOT NULL,
3    `name` VARCHAR(50) NULL,
4    `score` INT(11) NULL
5) ENGINE=OLAP
6UNIQUE KEY(`id`)
7DISTRIBUTED BY HASH(`id`) BUCKETS 1
8PROPERTIES (
9    "replication_num" = "1"
10);

写入：

1mysql> BEGIN;
2Query OK, 0 rows affected (0.01 sec)
3{'label':'txn_insert_b55db21aad7451b-b5b6c339704920c5', 'status':'PREPARE', 'txnId':''}
4
5mysql> INSERT INTO dt (id, name, score) VALUES (1, "Emily", 25), (2, "Benjamin", 35), (3, "Olivia", 28), (4, "Alexander", 60), (5, "Ava", 17);
6Query OK, 5 rows affected (0.08 sec)
7{'label':'txn_insert_b55db21aad7451b-b5b6c339704920c5', 'status':'PREPARE', 'txnId':'10013'}
8
9mysql> INSERT INTO dt VALUES (6, "William", 69), (7, "Sophia", 32), (8, "James", 64), (9, "Emma", 37), (10, "Liam", 64);
10Query OK, 5 rows affected (0.00 sec)
11{'label':'txn_insert_b55db21aad7451b-b5b6c339704920c5', 'status':'PREPARE', 'txnId':'10013'}
12
13mysql> COMMIT;
14Query OK, 0 rows affected (1.02 sec)
15{'label':'txn_insert_b55db21aad7451b-b5b6c339704920c5', 'status':'VISIBLE', 'txnId':'10013'}

这种写入方式不仅可以实现写入的原子性，而且在 PALO 中，能提升 INSERT INTO VALUES 的写入性能。

如果用户同时开启了 Group Commit 和事务写，事务写生效。

常见问题

• 写入的多表必须属于同一个 Database，否则会遇到错误 Transaction insert must be in the same database
• 当从 BEGIN 开始的导入耗时超出 PALO 配置的 timeout 时，会导致事务回滚，导入失败。目前 timeout 使用的是 Session 变量 insert_timeout 和 query_timeout 的最大值。
• 当使用 JDBC 连接 PALO 进行事务操作时，请在 JDBC URL 中添加 useLocalSessionState=true，否则可能会遇到错误 This is in a transaction, only insert, update, delete, commit, rollback is acceptable.

Stream Load 2PC

1. 在 HTTP Header 中设置 two_phase_commit:true 启用两阶段提交。

1curl  --location-trusted -u user:passwd -H "two_phase_commit:true" -T test.txt http://fe_host:http_port/api/{db}/{table}/_stream_load
2{
3    "TxnId": 18036,
4    "Label": "55c8ffc9-1c40-4d51-b75e-f2265b3602ef",
5    "TwoPhaseCommit": "true",
6    "Status": "Success",
7    "Message": "OK",
8    "NumberTotalRows": 100,
9    "NumberLoadedRows": 100,
10    "NumberFilteredRows": 0,
11    "NumberUnselectedRows": 0,
12    "LoadBytes": 1031,
13    "LoadTimeMs": 77,
14    "BeginTxnTimeMs": 1,
15    "StreamLoadPutTimeMs": 1,
16    "ReadDataTimeMs": 0,
17    "WriteDataTimeMs": 58,
18    "CommitAndPublishTimeMs": 0
19}

2. 对事务触发 commit 操作（请求发往 FE 或 BE 均可）

• 可以使用事务 id 指定事务

  Shell 复制

  1curl -X PUT --location-trusted -u user:passwd -H "txn_id:18036" -H "txn_operation:commit" http://fe_host:http_port/api/{db}/{table}/_stream_load_2pc
  2{
  3    "status": "Success",
  4    "msg": "transaction [18036] commit successfully."
  5}

• 也可以使用 label 指定事务

  Shell 复制

  1curl -X PUT --location-trusted -u user:passwd  -H "label:55c8ffc9-1c40-4d51-b75e-f2265b3602ef" -H "txn_operation:commit"  http://fe_host:http_port/api/{db}/{table}/_stream_load_2pc
  2{
  3    "status": "Success",
  4    "msg": "label [55c8ffc9-1c40-4d51-b75e-f2265b3602ef] commit successfully."
  5}

3. 对事务触发 abort 操作（请求发往 FE 或 BE 均可）

• 可以使用事务 id 指定事务

  Shell 复制

  1curl -X PUT --location-trusted -u user:passwd  -H "txn_id:18037" -H "txn_operation:abort"  http://fe_host:http_port/api/{db}/{table}/_stream_load_2pc
  2{
  3    "status": "Success",
  4    "msg": "transaction [18037] abort successfully."
  5}

• 也可以使用 label 指定事务

  Shell 复制

  1curl -X PUT --location-trusted -u user:passwd  -H "label:55c8ffc9-1c40-4d51-b75e-f2265b3602ef" -H "txn_operation:abort"  http://fe_host:http_port/api/{db}/{table}/_stream_load_2pc
  2{
  3    "status": "Success",
  4    "msg": "label [55c8ffc9-1c40-4d51-b75e-f2265b3602ef] abort successfully."
  5}

Broker Load 多表事务

所有 Broker Load 导入任务都是原子生效的。并且在同一个导入任务中对多张表的导入也能够保证原子性。还可以通过 Label 的机制来保证数据导入的不丢不重。

下面例子是从 HDFS 导入数据，使用通配符匹配两批文件，分别导入到两个表中。

1LOAD LABEL example_db.label2
2(
3    DATA INFILE("hdfs://hdfs_host:hdfs_port/input/file-10*")
4    INTO TABLE `my_table1`
5    PARTITION (p1)
6    COLUMNS TERMINATED BY ","
7    (k1, tmp_k2, tmp_k3)
8    SET (
9        k2 = tmp_k2 + 1,
10        k3 = tmp_k3 + 1
11    )
12    DATA INFILE("hdfs://hdfs_host:hdfs_port/input/file-20*")
13    INTO TABLE `my_table2`
14    COLUMNS TERMINATED BY ","
15    (k1, k2, k3)
16)
17WITH BROKER hdfs
18(
19    "username"="hdfs_user",
20    "password"="hdfs_password"
21);

使用通配符匹配导入两批文件 file-10* 和 file-20*。分别导入到 my_table1 和 my_table2 两张表中。其中 my_table1 指定导入到分区 p1 中，并且将导入源文件中第二列和第三列的值 +1 后导入。