减少执行大事务时的内存消耗

2024年 2月 11日 43.5k 0

减少执行大事务时的内存消耗

php小编柚子今天为大家介绍一个重要的技巧——如何减少执行大事务时的内存消耗。在处理大量数据或执行复杂操作时,内存消耗可能成为一个严重的问题。为了解决这个问题,我们需要采取一些优化措施,以提高代码的效率和性能。本文将为您详细介绍一些减少内存消耗的方法和技巧,帮助您在处理大事务时更加高效地利用内存资源。

问题内容

我按照 internet 上的示例,使用以下 sqlite 参数提高了 insert 查询的速度:

pragma journal_mode = off;
pragma synchronous = 0;
pragma cache_size = 1000000;
pragma locking_mode = exclusive;
pragma temp_store = memory;

登录后复制

这是我的代码:

tx, err := db.begin()
if err != nil {
log.fatal(err)
}
pr, err := tx.prepare("insert into table (p1, p2, p3, p4, p5) values (?, ?, ?, ?, ?)")
if err != nil {
log.fatal(err)
}
defer pr.close()
for i := 0; i 登录后复制

现在查询运行速度很快,但消耗了太多 ram。因为数据存储在ram中,只有在执行的最后才保存到数据库文件中。

我认为可以定期将数据保存到数据库文件中,这样会稍微增加执行时间,但会减少内存消耗。随着“i”的每次变化,交易开始,当所有“j”完成时,交易结束:

for i := 0; i 登录后复制

我认为现在数据应该以块的形式写入文件,并且 ram 中应该只有一个数据块。

但在执行过程中,数据并没有保存到文件中,ram持续被填满。也就是说,第一个和第二个代码选项的执行没有区别。

我认为当调用事务的“commit”时,数据应该保存到文件中,并且应该清除ram。请告诉我我做错了什么。

解决方法

PRAGMAcache_size的参数是页数(一般为每页4k字节)。

PRAGMA cache_size = 1000000;将分配最大4GB的RAM给页面缓存。
页面缓存在需要时分配,最多可达最大值,但在连接关闭之前不会释放。

由于您要插入大量行,它们最终会出现在不同的页面上,因此您最终将在缓存中保留已写入磁盘的所有页面,直到填满缓存为止。

如果您想减少内存消耗,只需将该值减少到 1000 之类的值(相当于 4 MB),或者干脆将其删除。默认缓存为 2 MB,如果您只是插入行就足够了。

另请注意,当您调用 COMMIT 时(或者如果没有足够的缓存,甚至在提交之前),数据确实会写入磁盘。但是 Sqlite 会在缓存中保留一个副本,以备以后需要时使用,以避免从磁盘重新读取它。

以上就是减少执行大事务时的内存消耗的详细内容,更多请关注每日运维网(www.mryunwei.com)其它相关文章!

相关文章

JavaScript2024新功能:Object.groupBy、正则表达式v标志
PHP trim 函数对多字节字符的使用和限制
新函数 json_validate() 、randomizer 类扩展…20 个PHP 8.3 新特性全面解析
使用HTMX为WordPress增效:如何在不使用复杂框架的情况下增强平台功能
为React 19做准备:WordPress 6.6用户指南
如何删除WordPress中的所有评论

发布评论