📜  DynamoDB-批处理编写

📅  最后修改于: 2020-11-28 13:59:43             🧑  作者: Mango


批处理通过创建或删除多个项目来对多个项目进行操作。这些操作利用BatchWriteItem ,其限制为最多16 MB的写入和25个请求。每个项目都遵守400KB的大小限制。批量写入也无法执行项目更新。

什么是批量书写?

批量写入可以操纵多个表中的项目。每个单独的请求都会发生操作调用,这意味着操作不会相互影响,并且允许进行异构混合。例如,一个批处理中的一个PutItem请求和三个DeleteItem请求,而PutItem请求的失败不会影响其他请求。失败的请求导致操作返回与每个失败的请求有关的信息(键和数据)。

–如果DynamoDB返回任何项目而不处理它们,请重试它们;否则,请重试。但是,请使用回退方法来避免基于重载的另一个请求失败。

当以下一个或多个语句证明是正确的时,DynamoDB拒绝批写入操作:

  • 该请求超出了预配置的吞吐量。

  • 该请求尝试使用BatchWriteItems更新项目。

  • 该请求对单个项目执行多项操作。

  • 请求表不存在。

  • 请求中的项目属性与目标不匹配。

  • 请求超出大小限制。

批量写入需要某些RequestItem参数-

  • 删除操作需要DeleteRequest子元素,这些子元素表示属性名称和值。

  • PutRequest项需要Item子元素,即属性和属性值映射。

响应-成功的操作将导致HTTP 200响应,该响应指示诸如消耗的容量单位,表处理指标以及任何未处理项之类的特征。

用Java批量写入

通过创建DynamoDB类实例,描述所有操作的TableWriteItems类实例,并调用batchWriteItem方法以使用TableWriteItems对象来执行批量写入。

–您必须为批量写入多个表的每个表创建一个TableWriteItems实例。另外,请检查您的请求响应中是否有未处理的请求。

您可以查看以下批量写入示例-

DynamoDB dynamoDB = new DynamoDB(new AmazonDynamoDBClient( 
   new ProfileCredentialsProvider()));  

TableWriteItems forumTableWriteItems = new TableWriteItems("Forum") 
   .withItemsToPut( 
   new Item() 
   .withPrimaryKey("Title", "XYZ CRM") 
   .withNumber("Threads", 0));  

TableWriteItems threadTableWriteItems = new TableWriteItems(Thread) 
   .withItemsToPut( 
   new Item() 
   .withPrimaryKey("ForumTitle","XYZ CRM","Topic","Updates") 
   .withHashAndRangeKeysToDelete("ForumTitle","A partition key value", 
   "Product Line 1", "A sort key value"));

BatchWriteItemOutcome outcome = dynamoDB.batchWriteItem (
   forumTableWriteItems, threadTableWriteItems);

下面的程序是另一个更大的示例,用于更好地理解批处理如何用Java编写。

–以下示例可能假定以前创建的数据源。在尝试执行之前,请获取支持库并创建必要的数据源(具有所需特征的表或其他引用的源)。

此示例还使用Eclipse IDE,AWS凭证文件和Eclipse AWS Java Project中的AWS Toolkit。

package com.amazonaws.codesamples.document;

import java.io.IOException;
import java.util.Arrays;
import java.util.HashSet;
import java.util.List;
import java.util.Map;

import com.amazonaws.auth.profile.ProfileCredentialsProvider;
import com.amazonaws.services.dynamodbv2.AmazonDynamoDBClient;
import com.amazonaws.services.dynamodbv2.document.BatchWriteItemOutcome;
import com.amazonaws.services.dynamodbv2.document.DynamoDB;
import com.amazonaws.services.dynamodbv2.document.Item;
import com.amazonaws.services.dynamodbv2.document.TableWriteItems;
import com.amazonaws.services.dynamodbv2.model.WriteRequest;

public class BatchWriteOpSample {  
   static DynamoDB dynamoDB = new DynamoDB(new AmazonDynamoDBClient( 
      new ProfileCredentialsProvider()));  
   static String forumTableName = "Forum"; 
   static String threadTableName = "Thread";  
      
   public static void main(String[] args) throws IOException { 
      batchWriteMultiItems();   
   }
   private static void batchWriteMultiItems() { 
      try {
         // Place new item in Forum 
         TableWriteItems forumTableWriteItems = new TableWriteItems(forumTableName) 
                                                                       //Forum 
            .withItemsToPut(new Item() 
            .withPrimaryKey("Name", "Amazon RDS") 
            .withNumber("Threads", 0));  
            
         // Place one item, delete another in Thread 
         // Specify partition key and range key 
         TableWriteItems threadTableWriteItems = new TableWriteItems(threadTableName) 
            .withItemsToPut(new Item() 
            .withPrimaryKey("ForumName","Product  
            Support","Subject","Support Thread 1") 
            .withString("Message", "New OS Thread 1 message")
            .withHashAndRangeKeysToDelete("ForumName","Subject", "Polymer Blaster", 
            "Support Thread 100"));  
            
         System.out.println("Processing request..."); 
         BatchWriteItemOutcome outcome = dynamoDB.batchWriteItem (
               forumTableWriteItems, threadTableWriteItems);
         do {  
            // Confirm no unprocessed items 
            Map> unprocessedItems 
               = outcome.getUnprocessedItems();  
                  
            if (outcome.getUnprocessedItems().size() == 0) { 
               System.out.println("All items processed."); 
            } else { 
               System.out.println("Gathering unprocessed items..."); 
               outcome = dynamoDB.batchWriteItemUnprocessed(unprocessedItems); 
            }  
         } while (outcome.getUnprocessedItems().size() > 0);  
      } catch (Exception e) { 
         System.err.println("Could not get items: "); 
         e.printStackTrace(System.err); 
      }   
   } 
}