码迷,mamicode.com
首页 >  
搜索关键字:decimal    ( 1358个结果
MySQL学习笔记——2.列类型
1.tinyint 占一个字节,取值范围为-128~127 unsigned:无符号,即无负数(0~255) 常用于boolean类型/体重等数据的体现2.int //整型 占四个字节 zerofill:零填充,无需指定unsigned3.decimal(m,d) //浮点型 相对于fl...
分类:数据库   时间:2014-12-29 21:15:16    阅读次数:213
科学计数法
9.9997751853834723E-05转换为:0.0000999977518538347M方法:string parStr = "9.9997751853834723E-05";decimal convertStr = Convert.ToDecimal(Convert.ToDouble(pa...
分类:其他好文   时间:2014-12-22 21:12:14    阅读次数:191
降阶法计算行列式方法有个地方有Bug(原文也已更正,此为更正后部分)
今天用此函数做方程求解时发现有误,特此更正:/// /// 降阶法计算行列式 /// /// N阶行列式 /// 是否0优化 /// 计算结果 public static decimal CalcDeterminantAij(decimal[,] Determinants, bool ZeroOpt...
分类:其他好文   时间:2014-12-21 22:14:07    阅读次数:117
decimal 小数点 位数 问题
decimal(p[,s]),其中p为精度,s为小数位数p(精度)最多可以存储的十进制数字的总位数,包括小数点左边和右边的位数s(小数位数)小数点右边可以存储的十进制数字的最大位数1.在保证小数位且总位数不超过6时declare @a decimal(6,3) set @a=56.342689 pr...
分类:其他好文   时间:2014-12-20 16:46:49    阅读次数:255
【LeetCode】Fraction to Recurring Decimal【Solution】
【题目】 Given two integers representing the numerator and denominator of a fraction, return the fraction in string format. If the fractional part is repeating, enclose the repeating part in paren...
分类:其他好文   时间:2014-12-19 12:11:03    阅读次数:172
【leetcode 哈希表】Fraction to Recurring Decimal
leetcode新题,哈希表,Fraction to Recurring Decimal 。题意:给定两个整型数,一个代表分子numerator,一个代表分母denominator,以小数的形式返回它们的结果result,当有循环小数时,以括号形式表示。比如5/3=1.666666...以“1.(6)”的形式返回,返回的类型是字符串。 解题要点: 1、负数的处理 2、INT_MIN的处理,将INT_MIN转化为正数会溢出,因此要使用long long int来计算。 3、分为整数部分和小数部分,重点在于小...
分类:其他好文   时间:2014-12-18 09:13:48    阅读次数:182
[leetcode]Fraction to Recurring Decimal
一位一位的算嘛,如果出现了重复的余数那么就是循环节开始啦。用hashtable记录下位置,好插入括号。注意负数。class Solution {public: string fractionToDecimal(int numerator, int denominator) { i...
分类:其他好文   时间:2014-12-17 12:35:20    阅读次数:147
金额保留小数点后2位
decimal.ToString("#0.00")与decimal.ToString("#.##")的区别对于0.123来说吧Console.WriteLine(decTemp.ToString("#0.00"));//0.12Console.WriteLine(decTemp.ToString("...
分类:其他好文   时间:2014-12-16 14:49:23    阅读次数:125
mysql存储过程中传decimal值会自动四舍五入,没有小数
通过 call proc(0.2,0.5); 查看结果数据库竟然是0 和 1原因:proc的参数没有设置好参数:原本是 in a decimal,in b decimal应该改为:in a decimal(10,2),in b decimal(10,2) -- 长度为10,2位小数
分类:数据库   时间:2014-12-15 23:32:31    阅读次数:572
泛型使用中,解决类型转换问题
遇到的问题是这样,系统中有一个字符类型的字段来存储一些通用的系统配置,虽然存储的形式是字符串,但是实际在系统中的使用类型则可能是string, bool, int, decimal.这个时候就想写一个通用的方法来获取各种不同类型的返回值,当然这个时候想到的就是使用泛型。那么这个方法的定义大概就是这样...
分类:其他好文   时间:2014-12-15 20:18:14    阅读次数:171
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!