应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

Znn3bq.jpeg
小木虫论坛-学术科研互动平台 » 计算模拟区 » 程序语言 » 数据库 » 求教C#处理sql大量数据的高效率方法
41/1返回列表
查看: 1668  |  回复: 3
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

spz19901006

新虫 (初入文坛)

[求助] 求教C#处理sql大量数据的高效率方法

请问大家使用C#语言从SQL的数据库中读取80万条数据，并存在字典中，之后要在这个字典中查找相关符合条件的数据，处理datatable的时候速度很慢，请问大家有没有好的方法，前段时间研究了缓存，缓存一般适合于B/S模式，在C/S模式下并不是很适用，另外C#在处理大量数据时，有没有相应的高效的方法，请大家多多指教，谢谢！！
回复此楼

» 猜你喜欢
1楼 2013-12-06 22:06:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

adong76

禁虫 (正式写手)
感谢参与，应助指数 +1
本帖内容被屏蔽
2楼2013-12-07 09:04:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

第五洋

木虫 (小有名气)

【答案】应助回帖

感谢参与，应助指数 +1
spz19901006: 回帖置顶 2013-12-09 15:30:03
我已经给好多人做过C#调数据库的了。。。

C#数据库速度的瓶颈在于 .open .close这类文件IO的地方。
楼主可以考虑一整张表的话，用select* 全读到一个table里，或者放到datagridview中，
这样一次文件的io，数据就都读到内存里了，
然后写循环在table里大量读取需要的数据条目

如果楼主按照模板，每一个语句都要走一遍数据库的 open close 申请 这些过程，自然会较慢的。

有问题欢迎继续追问
赞一下(2人) 回复此楼
给时光以生命
3楼2013-12-08 08:49:50
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

spz19901006

新虫 (初入文坛)
引用回帖:
3楼: Originally posted by 第五洋 at 2013-12-08 08:49:50
我已经给好多人做过C#调数据库的了。。。

C#数据库速度的瓶颈在于 .open .close这类文件IO的地方。
楼主可以考虑一整张表的话，用select* 全读到一个table里，或者放到datagridview中，
这样一次文件的io，数据 ...

80万的数据导入到数据库中差不多是15分钟左右，这个还好，我现在做的一个是程序是，读取文本文件，将文本文件中的有用数据以字典的形式进行存储，字典中的键和值，类型都是字符串，在字典中搜索指定项觉得很慢，请问大家有没有好的解决办法？
赞一下 回复此楼
4楼2013-12-08 15:43:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 spz19901006 的主题更新
41/1返回列表
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 机械专硕270求调剂，接受跨专业 +4 老师看看我吧aba 2026-04-09 5/250 2026-04-09 23:44 by only周
[考研] 求调剂 +12 MAX怅惘 2026-04-09 13/650 2026-04-09 23:32 by cls512
[考研] 本科211 工科085400 280分求调剂 可跨专业 +3 LZH（等待调剂中 2026-04-09 3/150 2026-04-09 21:29 by wutongshun
[考研] 一志愿双非085400电子信息344 求调剂，对材料和化学方向也感兴趣 +7 无情的小羊 2026-04-09 8/400 2026-04-09 21:22 by wwwbobobo
[考研] 289 分105500药学专硕求调剂(找B区学校) +5 白云123456789 2026-04-09 7/350 2026-04-09 21:03 by 白云123456789
[考研] 296求调剂 +6 汪！？！ 2026-04-09 6/300 2026-04-09 20:49 by lbsjt
[考研] 材料化工总分334求调剂 +16 Riot2025 2026-04-08 17/850 2026-04-09 20:19 by maddjdld
[考研] 085600材料与化工，求调剂 +11 won_qii 2026-04-07 11/550 2026-04-09 17:03 by luoyongfeng
[考研] 368化学求调剂 +13 wwwwabcde 2026-04-07 14/700 2026-04-09 14:47 by heaven_jay
[考研] 086000调剂 +4 十七sa 2026-04-07 4/200 2026-04-09 09:27 by 壹往無前
[考研] 一志愿华中农业大学0710（A）初试329分 求调剂 +5 一名26考研生 2026-04-04 5/250 2026-04-07 08:54 by 18828373951
[考研] 考研调剂 +7 15615482637 2026-04-04 7/350 2026-04-06 22:56 by chenzhimin
[考研] 生物学求调剂 一志愿沪9，326分 +6 刘墨墨 2026-04-06 6/300 2026-04-06 19:36 by lijunpoly
[考研] 材料专硕283求调剂 +17 试试看呗 2026-04-04 18/900 2026-04-06 09:24 by 286640313
[考研] 材料专硕322分 +10 哈哈哈吼吼吼哈 2026-04-04 10/500 2026-04-05 21:22 by 学员8dgXkO
[考研] 生物与医药调剂 +4 十七sa 2026-04-05 4/200 2026-04-05 20:05 by lys0704
[考研] 322求调剂 +6 FZAC123 2026-04-03 6/300 2026-04-03 22:23 by 科研小专家
[考研] 一志愿重庆大学085404，总分314分，求调剂 +4 zf83hn 2026-04-03 4/200 2026-04-03 21:25 by 啵啵啵0119
[考研] 372分材料与化工（085600）一志愿湖南大学求调剂 +3 蓝笺片 2026-04-03 4/200 2026-04-03 17:58 by Jimmyandyou
[考研] 338求调剂 +4 zzz，，r 2026-04-03 4/200 2026-04-03 16:39 by lijunpoly
信息提示
关闭
请填处理意见
关闭