linux中用crontab命令定时执行scrapy项目

2023-10-27

 

进入文件所在目录

为了保证此方法可行,我先在所在的目录创建一个测试小demo的脚本,想知道如何执行scrapy项目可以直接跳到后面

vi test.sh

编写一个每分钟往当前文件中的test.txt中写入111的脚本

编写crontab命令

crontab -e
*/1 * * * * sh ~/python_file/paimai/PAIMAI/test.sh # 代表每分钟执行一次

保存后就可以去查看命令是否执行,使用命令

tail -n 10 /var/log/cron

查看test.txt文件,成功执行

 

好了,demo执行成功,我们来看看定时执行scrapy项目如何设置

 

首先编写cron.sh脚本

vi cron.sh
#!/bin/sh
cd /root/python_file/paimai/PAIMAI/PAIMAI/spiders   #进入到spider所在路径
nohup scrapy crawl bid_over  >../main.log 2>&1 &    #后台执行命令

再来编写crontab

crontab -e
0 19 * * * sh ~/python_file/paimai/PAIMAI/cron.sh  #每天晚上7点定时执行

好了,定时执行命令成功

ps:

crontab基础命令:
crontab -e     #编辑命令
crontab -l       #列出已经编写的命令
/var/log/cron   #查看定时任务执行的日志
service crond status   #查看定时任务是否开启

 

附录一些参考例子:

#每晚的21:30重启apache。

30 21 * * * /usr/local/etc/rc.d/lighttpd restart

#每月1、10、22日

45 4 1,10,22 * * /usr/local/etc/rc.d/lighttpd restart

#每天早上6点10分

10 6 * * * date

#每两个小时

0 */2 * * * date

#晚上11点到早上8点之间每两个小时,早上8点

0 23-7/2,8 * * * date

#每个月的4号和每个礼拜的礼拜一到礼拜三的早上11点

0 11 4 * mon-wed date

#1月份日早上4点

0 4 1 jan * date 

 

很多时候,我们计划任务需要精确到秒来执行,根据以下方法,可以很容易地以秒执行任务。

以下方法将每10秒执行一次

1

2

3

4

5

6

7

# crontab -e

* * * * * /bin/date >>/tmp/date.txt

* * * * * sleep 10/bin/date >>/tmp/date.txt

* * * * * sleep 20/bin/date >>/tmp/date.txt

* * * * * sleep 30/bin/date >>/tmp/date.txt

* * * * * sleep 40/bin/date >>/tmp/date.txt

* * * * * sleep 50/bin/date >>/tmp/date.txt

 

在设置定时执行的操作后,出现LINUX的邮件提示功能:You have new mail in /var/spool/mail/root

可以用root下执行这条命令

echo "unset MAILCHECK">> /etc/profile
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

linux中用crontab命令定时执行scrapy项目 的相关文章

随机推荐

  • Allegro如何导入dxf文件

    以上的操作就将dxf导入到了allegro中 将板框从dxf层改到outliine层 1 选择Edit Change 2 设置Find和Options 3 选择板框 即将dxf层改到outliine层 4 修改outline的颜色 可以看的
  • # 洗牌算法

    基本概念 等概率将将一个数组N打乱 概率每次都是1 N 加上 方法一 全局洗牌 从 0到N 1的数组下标 每次随机产生两个0到 N 1之间的数 进行交换 void get rand number int array int length i
  • 计算机网络记忆点

    声明 转载还得加上链接麻烦 这只是整理自己要的东西 忘记了回头看看 顺便让大家了解了解 如果有什么侵权 请联系我 我会删除 谢谢理解 1 网络层次划分 TCP IP从下往上 物理层 数据链路层 网络层 传输层 应用层 OSI七层网络模型 物
  • chatglm实现基于知识库问答的应用

    背景 目前由于ChatGPT横空出世 互联网如雨后春笋冒出了非常多的类ChatGPT的大型语言模型 但是对于这些语言模型 我们应该如何将它应用到我们实际的生产中需要一个更加成熟的解决方案 介绍 本文旨在通过介绍ChatGLM的使用来讲述如何
  • Vue 生命周期-钩子函数介绍

    生命周期 每一个组件或者实例都会经历一个完整的生命周期 总共分为三个阶段 初始化 运行中 销毁 钩子函数 vue在整个生命周期里面提供了一些函数 可以在内部实现一些业务逻辑 并且这些函数会在一些特定的场合下去执行 在生命周期的某一个时刻进行
  • 抖音、快手、B站、小红书,品牌如何选对投放平台?

    移动互联网时代 各大平台的品牌广告迎来了爆炸式的增长 穿插在内容流中的信息流广告和KOL内容投放广告对用户来说体验相对较好 对广告主来说可以利用用户的标签进行精准投放 无论是品牌曝光还是获取转化都可满足需求 品牌该如何选择适合自己的平台 让
  • 离散元后处理,将PFC数据写出并导入到matlab中形成云图

    离散元后处理 将PFC数据写出并导入到matlab中形成云图 支持二维三维绘图 内容包括 案例文件 fish代码和matlab代码 pfc2d 3d to matlab ID 71200677036823736
  • 四篇文章带你玩转springboot——3启动源码及外部化配置

    第1章 main入口 public static void main String args 代码很简单SpringApplication run SpringApplication run ConsumerApp class args p
  • Java8常用新特性详解

    文章目录 Java8新特性纵览 Lambda表达式 为什么使用Lambda表达式 简单使用 Lambda语法规则 函数式接口 什么是函数式 Functional 接口 如何理解函数式接口 Java内置函数式接口 自定义函数式接口 方法引用
  • Android中的信息输出:System.out和Log的源码分析与对比(System.out篇)

    想必大家在编写Android程序的时候必然绕不来输出信息 对于熟悉Java的程序员来讲 他们更喜欢使用System out来输出信息 而Android开发经验更丰富的程序员则更倾向于使用Log 毕竟在调试的时候Android环境本身就会输出
  • Cannot read properties of undefined (reading ‘install‘)

    把vue rotuer的版本降低 我降低为了 3 5 4 然后终端重新跑代码
  • 对于开源软件的审查(有无后门等)

    最近公司申请安服资质 让我帮忙写个对开源软件的审查方法 就随便编了以下 如有补充还请各位扶正 其实我觉得他们为啥不怀疑windows有问题呢 非黑客攻击行为安全工具 此类工具通常为辅助测试工具 不具备直接攻击行为 且通常具有官方来源 例如
  • 开源SOLOv2,让动态实例分割更快更强更精准

    作者 介绍 作者建立一个性能强大的简单 通过动态学习对象分割器的蒙版头 使蒙版头以位置为条件 进一步提升性能 具体来说 将遮罩分支解耦为遮罩内核分支和遮罩特征分支 分别负责学习卷积内核和卷积特征 利用矩阵NMS 非最大抑制 以显着减少由于掩
  • 【七夕特辑】用python来实现跳动爱心+爱心心电图+玫瑰花+.....

    前言 什么 明天七夕 学了这么久的python 还写不出来给 对象或者心动Crush 的一个表白代码 还得是我来帮你们准备几个吧 有去年比较火的跳动爱心 也有其他的 来看看 挑选一下 领取代码后 不要忘记发给人家了 emmm先来给你们都看一
  • selenium4 自动化测试--环境安装和基础操作

    最近也有很多人私下问我 selenium学习难吗 基础入门的学习内容很多是3以前的版本资料 对于有基础的人来说 3到4的差别虽然有 但是不足以影响自己 但是对于没有学过的人来说 通过资料再到自己写的代码 发现有些东西没有 有些方法又不相同
  • html给后台发送请求,10分钟学会——前端如何通过AJAX向后端发送请求

    AJAX 基于现有的internet标准 XMLHttpRequest 对象 异步的与服务器交换数据 JavaScript DOM 信息显示 交互 CSS 给数据定义样式 XML 作为转换数据的格式 GET请求 异步请求 来自服务器的响应并
  • 热门前端工具链宣布放弃 TypeScript!

    近日 前端工具链 Turbo 宣布将在 8 0 版本放弃 TypeScript 三个月前 前端框架 Svelte 宣布将在 4 0 版本从 TypeScript 切换到使用 JSDoc 的 JavaScript 如今 又一大前端工具 Tur
  • 安装了pyintaller后出现:‘pyinstaller‘ 不是内部或外部命令,也不是可运行的程序或批处理文件。

    2023年7月31日 周一上午 我昨天晚上也遇到了这个问题 后来解决了 目录 出错原因 解决方法 怎么找到Scripts文件夹 出错原因 出现这个错误是因为你没给python的Scripts文件夹添加环境变量 Scripts存放着pip安装
  • git提交代码

    1 先决条件 代码是repo下来的 代码修改完毕 进入自己修改代码的模块下 git checkout b sprdroid2 3 vlx 3 0 korg 分支名 每个git仓库只用执行一次此命令 以后提交时不用敲此命令 git statu
  • linux中用crontab命令定时执行scrapy项目

    进入文件所在目录 为了保证此方法可行 我先在所在的目录创建一个测试小demo的脚本 想知道如何执行scrapy项目可以直接跳到后面 vi test sh 编写一个每分钟往当前文件中的test txt中写入111的脚本 编写crontab命令