Java多線程處理List問題
Java多線程處理List
項(xiàng)目場景
調(diào)用第三方提供的接口去獲取 List 中用戶的組信息。
問題描述
需要拿用戶的 id 去調(diào)用第三方接口,成功調(diào)用一次需要 0.3s 左右,當(dāng)有 1000 個(gè)用戶時(shí),就需要花費(fèi) 0.3 * 1000s = 5min,頁面就會(huì)一直加載那么久。
之前是通過 for 循環(huán) list 去調(diào)用接口的,
代碼如下:
// 當(dāng) list 長度為 1000時(shí),則需要循環(huán) 1000次
for(User user : list) {
loadUserGroups(user);
}解決方案
通過多線程的方式去處理,話不多說直接上代碼:
// 定義一個(gè)線程池
private static final ExecutorService loadUserGroupsExecutor = Executors.newFixedThreadPool(20);
public Map<String, List<UserGroup>> loadAllUserGroups() {
Map<String, List<UserGroup>> userGroups = new ConcurrentHashMap<>();
List<User> users = listUsers();
int size = users.size();
long startTime = System.currentTimeMillis();
if (size > 200) {
List<List<User>> partition = Lists.partition(users, 200);
List<CompletableFuture> results = new ArrayList<>();
for (List<User> subList : partition) {
CompletableFuture<String> future = CompletableFuture.supplyAsync(() -> {
loadUserGroups(userGroups, subList);
return "";
}, loadUserGroupsExecutor);
results.add(future);
}
CompletableFuture.allOf(results.toArray(results.toArray(new CompletableFuture[partition.size()]))).join();
} else {
loadUserGroups(userGroups, users);
}
log.info("loadAllUserGroups cost {}", System.currentTimeMillis() - startTime);
return userGroups;
}Java多線程分段處理List集合
場景:
大數(shù)據(jù)List集合,需要對(duì)List集合中的數(shù)據(jù)同標(biāo)準(zhǔn)庫中數(shù)據(jù)進(jìn)行對(duì)比,生成新增,更新,取消數(shù)據(jù)
解決方案
- List集合分段
- 動(dòng)態(tài)創(chuàng)建線程池newFixedThreadPool
- 將對(duì)比操作在多線程中實(shí)現(xiàn)
public static void main(String[] args) throws Exception {
?? ?// 開始時(shí)間
?? ?long start = System.currentTimeMillis();
?? ?List<String> list = new ArrayList<String>();
?? ?for (int i = 1; i <= 3000; i++) {
?? ??? ?list.add(i + "");
?? ?}
? ? /*動(dòng)態(tài)線程數(shù)方式*/
?? ?// 每500條數(shù)據(jù)開啟一條線程
?? ?int threadSize = 500;
?? ?// 總數(shù)據(jù)條數(shù)
?? ?int dataSize = list.size();
?? ?// 線程數(shù),動(dòng)態(tài)生成
?? ?int threadNum = dataSize / threadSize + 1;
? ? /*固定線程數(shù)方式
?? ? ? ?// 線程數(shù)
?? ? ? ?int threadNum = 6;
?? ? ? ?// 總數(shù)據(jù)條數(shù)
?? ? ? ?int dataSize = list.size();
?? ? ? ?// 每一條線程處理多少條數(shù)據(jù)
?? ? ? ?int threadSize = dataSize / (threadNum - 1);
? ? */
?? ?// 定義標(biāo)記,過濾threadNum為整數(shù)
?? ?boolean special = dataSize % threadSize == 0;
?? ?// 創(chuàng)建一個(gè)線程池
?? ?ExecutorService exec = Executors.newFixedThreadPool(threadNum);
?? ?// 定義一個(gè)任務(wù)集合
?? ?List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();
?? ?Callable<Integer> task = null;
?? ?List<String> cutList = null;
?? ?// 確定每條線程的數(shù)據(jù)
?? ?for (int i = 0; i < threadNum; i++) {
?? ??? ?if (i == threadNum - 1) {
?? ??? ??? ?if (special) {
?? ??? ??? ??? ?break;
?? ??? ??? ?}
?? ??? ??? ?cutList = list.subList(threadSize * i, dataSize);
?? ??? ?} else {
?? ??? ??? ?cutList = list.subList(threadSize * i, threadSize * (i + 1));
?? ??? ?}
?? ??? ?final List<String> listStr = cutList;
?? ??? ?task = new Callable<Integer>() {
?? ??? ??? ?@Override
?? ??? ??? ?public Integer call() throws Exception {
?? ??? ??? ??? ?//業(yè)務(wù)邏輯,循環(huán)處理分段后的list
?? ??? ??? ??? ?System.out.println(Thread.currentThread().getName() + "線程:" + listStr);
?? ??? ??? ??? ?//......
?? ??? ??? ??? ?return 1;
?? ??? ??? ?}
?? ??? ?};
?? ??? ?// 這里提交的任務(wù)容器列表和返回的Future列表存在順序?qū)?yīng)的關(guān)系
?? ??? ?tasks.add(task);
?? ?}
?? ?exec.invokeAll(tasks);
?? ?// 關(guān)閉線程池
?? ?exec.shutdown();
?? ?System.out.println("線程任務(wù)執(zhí)行結(jié)束");
?? ?System.out.println("執(zhí)行任務(wù)消耗了 :" + (System.currentTimeMillis() - start) + "毫秒");
}總結(jié)
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Java中CountDownLatch進(jìn)行多線程同步詳解及實(shí)例代碼
這篇文章主要介紹了Java中CountDownLatch進(jìn)行多線程同步詳解及實(shí)例代碼的相關(guān)資料,需要的朋友可以參考下2017-03-03
Java BeanUtils.copyProperties的詳解
這篇文章主要介紹了Java BeanUtils.copyProperties的詳解,本篇文章通過簡要的案例,講解了該項(xiàng)技術(shù)的了解與使用,以下就是詳細(xì)內(nèi)容,需要的朋友可以參考下2021-08-08
Spring Boot實(shí)現(xiàn)分片上傳、斷點(diǎn)續(xù)傳與進(jìn)度條功能
本文介紹了如何使用SpringBoot實(shí)現(xiàn)分片上傳、斷點(diǎn)續(xù)傳和進(jìn)度條等功能,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友參考下吧2026-02-02
Java8方法引用及構(gòu)造方法引用原理實(shí)例解析
這篇文章主要介紹了Java8方法引用及構(gòu)造方法引用原理實(shí)例解析,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-09-09
Spring?JPA?deleteInBatch導(dǎo)致StackOverflow問題
這篇文章主要介紹了Spring?JPA?deleteInBatch導(dǎo)致StackOverflow問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-05-05
詳解如何獨(dú)立使用ribbon實(shí)現(xiàn)業(yè)務(wù)客戶端負(fù)載均衡
這篇文章主要為大家介紹了詳解如何獨(dú)立使用ribbon實(shí)現(xiàn)業(yè)務(wù)客戶端負(fù)載均衡,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-06-06
JAVA中的final關(guān)鍵字用法實(shí)例詳解
這篇文章主要介紹了JAVA中的final關(guān)鍵字用法,結(jié)合實(shí)例形式較為詳細(xì)的分析了Java中的final關(guān)鍵字用于修飾數(shù)據(jù),方法及類的具體使用技巧,需要的朋友可以參考下2015-12-12

