Overview 本篇我们来记录一下怎么使用TensorFlow2.0当中的Keras模块来进行CNN图片分类。 1.加载数据 我们用经典的猫狗分类数据集来做这次图片分类。 import os import numpy as np import matplotlib.pyplot as plt import tensorflow as tf from tensorflow.keras.m...阅读全文>>
TensorFlow 2.0训练结构化数据
Overview 近期正在更新新用户模型,仍然在用XGBoost。由于训练集数据已经达到20W,故用神经网络来训练一下,看看效果如何。 TensorFlow 2.0集成了Keras,易用性很高,且Keras之后不再单独更新了,而是作为TensorFlow的一个模块来使用。我们这次就用TensorFlow 2.0中的tf.keras来训练我们的结构化数据。 1. 导入特征列表及数据 impo...阅读全文>>
互联网金融模型经验总结(一)
Overview 互联网金融行业主要涉及以下方面:保险、理财、基金、信贷、虚拟信用卡、催收等,主要用到以下类型的模型: 营销模型、召回模型、排序模型(支付宝蚂蚁财富基金推荐红包发放等) 新用户反欺诈模型 新老用户信用额度模型(蚂蚁借呗,腾讯微粒贷,京东金条,微博钱包,美团借钱,各类小贷等) 虚拟信用卡贷中风控模型(蚂蚁花呗,京东白条等) 贷后催收模型 我在互联网金融行业已经工作两年了,...阅读全文>>
阿里云Ubuntu16.04服务器安装Jupyter
Overview Jupyter已经不用再花笔墨去介绍了。今年公司国内的业务已经很稳定,我也可以放心交给其他人了,现在主要精力放在东南亚的业务上。所以,离线模型训练就需要在云上安装Jupyter环境。这次,我用Anaconda来安装。 1. 安装Anaconda 首先找到Linux和Python3.7版本的Anaconda:Anaconda,复制链接地址。然后ssh登录到云服务器上,运行下...阅读全文>>
CatBoost贝叶斯调参程序
Overview 之前我们记录了CatBoost一个训练的例子,这次我们更新一个CatBoost调参的例子,用的是业界比较流行的贝叶斯调参法。 1. 引入依赖包并加载数据 import pandas as pd import numpy as np from catboost import CatBoostClassifier, CatBoost, Pool, cv from bayes_...阅读全文>>
Python版本CatBoost在Ubuntu16.04上安装与初步使用
Overview CatBoost据说是比Xgboost和LightGBM更快更准确的GBDT算法。本文记录一下安装过程中的一个小坑和初步使用例子。 1. 安装 先安装依赖包,six和NumPy(假定你已经安装好了Python3.6以上版本): pip install six 由于Ubuntu16.04中自带的NumPy版本是比较老的,所以要指定NumPy版本为1.16.0以上: pip...阅读全文>>
在Ubuntu 16.04的R语言环境中通过安装KerasR包使用Keras深度学习框架
Overview 因为想尝试一些深度学习模型,就用Keras开始建模(为什么使用Keras?)。而且由于之前使用的极其模型都是基于R语言的,所以我们依然尝试使用R语言版本的Keras来训练深度学习模型。 Keras的R语言接口 Keras本身就是一个基于Tensorflow、Theano以及CNTK编写的纯Python框架,因为方便易用,所以使用广泛,为了让R语言开发者也能在R中使用Ke...阅读全文>>
R语言版本LightGBM在ubuntu16.04上的安装
Overview 首先非常感谢谢若鹏同学给的LightGBM安装教程和调优等脚本。下午在自己的6G内存ubuntu16.04系统上安装,在make -j这一步编译c++的boosting库时总是退出,提示虚拟内存不足,看来是电脑配置太低了。只能在Bastion3服务器上面测试了。 1.LightGBM的安装 首先安装git: sudo apt-get install git 从githu...阅读全文>>
机器学习项目服务器上线部署全流程记录
Overview 我们团队完整的机器学习项目已经做了两个了,分别是Bastion4和Bastion6。之前两个项目上线部署的记录过于片段化,针对现在马上要做完的Bastion3项目,我们在此完整记录搭建服务器各种环境的全部流程,以备不时之需。 完整的项目基本分为三大部分:Java处理业务逻辑;Perl后台消息队列;R机器学习模型预测。每个大部分还有很多细节,我们会在每部分都详细记录。 新申...阅读全文>>
R语言输出表格到Word
Overview 由于投稿论文,需要将大量csv格式的表格输出到Word当中。故将csv格式的表格读入到R中,然后再从R中输出至Word。这需要一个软件和几个R包的支持,故将安装过程记录下来。 1.下载安装statconnDCOM 在Windows系统下,到 http://rcom.univie.ac.at 下载statconnDCOM3.6-0B3_Noncommercial,这是非商业...阅读全文>>