<div dir="auto">Is there a way to ruin it using fixed point math instead?</div><br><div class="gmail_quote"><div dir="ltr">On Fri, Jul 13, 2018, 1:35 PM Tim Ressel <<a href="mailto:timr@circuitabbey.com">timr@circuitabbey.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">If you must pry...  ;-)<br>
<br>
I am playing with using a 64 bit accumulator in a DCO (NCO?) to fix the <br>
top jitter problem. The notion is that increased resolution in the <br>
increment value will cause less top jitter.<br>
<br>
--tr<br>
<br>
<br>
On 7/13/2018 11:30 AM, Richie Burnett wrote:<br>
> Out of interest, what application requires table lookup of values to a resolution of better than 1 part in 10 to the 19 !?!?!?<br>
><br>
> -Richie,<br>
><br>
> Sent from my Xperia SP on O2<br>
><br>
> ---- Tim Ressel wrote ----<br>
><br>
>> Verified. I don't relish (or other condiment...) doing that calc<br>
>> manually 4096 times. But it does tell us that a windoze machine can do<br>
>> the deed. I wonder if its a matter of floats versus doubles?<br>
>><br>
>> --timmers<br>
>><br>
>><br>
>> On 7/13/2018 9:59 AM, Ben Bradley wrote:<br>
>>> Windows Calculator does about twice that ("In Scientific mode,<br>
>>> Calculator is precise to 32 significant digits."), though of course<br>
>>> using it is tedious. If it helps, you can copy-paste operations into<br>
>>> it. Copy and paste this:<br>
>>> 2y2r=<br>
>>> (two to the power of 2 reciprocal - this calculates the square root of<br>
>>> two) gives:<br>
>>> 1.4142135623730950488016887242097<br>
>>> There's a list of keyboard shortcuts somewhere.<br>
>>><br>
>>> If you're using integers, I recall that Python, rather than<br>
>>> overflowing, will handle arbitrarily large integer values.<br>
>>><br>
>>><br>
>>> On Fri, Jul 13, 2018 at 12:42 PM, Tim Ressel <<a href="mailto:timr@circuitabbey.com" target="_blank" rel="noreferrer">timr@circuitabbey.com</a>> wrote:<br>
>>>> Hey'all,<br>
>>>><br>
>>>> I need to generate a lookup table with 64 bit values. Usually I use Excel<br>
>>>> but there is a problem: It only does 14 decimal places. I don't think this<br>
>>>> is enough. Any suggestions?<br>
>>>><br>
>>>> --<br>
>>>> --Tim Ressel<br>
>>>> Circuit Abbey<br>
>>>> <a href="mailto:timr@circuitabbey.com" target="_blank" rel="noreferrer">timr@circuitabbey.com</a><br>
>>>><br>
>>>> _______________________________________________<br>
>>>> Synth-diy mailing list<br>
>>>> <a href="mailto:Synth-diy@synth-diy.org" target="_blank" rel="noreferrer">Synth-diy@synth-diy.org</a><br>
>>>> <a href="http://synth-diy.org/mailman/listinfo/synth-diy" rel="noreferrer noreferrer" target="_blank">http://synth-diy.org/mailman/listinfo/synth-diy</a><br>
>>> _______________________________________________<br>
>>> Synth-diy mailing list<br>
>>> <a href="mailto:Synth-diy@synth-diy.org" target="_blank" rel="noreferrer">Synth-diy@synth-diy.org</a><br>
>>> <a href="http://synth-diy.org/mailman/listinfo/synth-diy" rel="noreferrer noreferrer" target="_blank">http://synth-diy.org/mailman/listinfo/synth-diy</a><br>
>>><br>
>> -- <br>
>> --Tim Ressel<br>
>> Circuit Abbey<br>
>> <a href="mailto:timr@circuitabbey.com" target="_blank" rel="noreferrer">timr@circuitabbey.com</a><br>
>><br>
>> _______________________________________________<br>
>> Synth-diy mailing list<br>
>> <a href="mailto:Synth-diy@synth-diy.org" target="_blank" rel="noreferrer">Synth-diy@synth-diy.org</a><br>
>> <a href="http://synth-diy.org/mailman/listinfo/synth-diy" rel="noreferrer noreferrer" target="_blank">http://synth-diy.org/mailman/listinfo/synth-diy</a><br>
<br>
-- <br>
--Tim Ressel<br>
Circuit Abbey<br>
<a href="mailto:timr@circuitabbey.com" target="_blank" rel="noreferrer">timr@circuitabbey.com</a><br>
<br>
_______________________________________________<br>
Synth-diy mailing list<br>
<a href="mailto:Synth-diy@synth-diy.org" target="_blank" rel="noreferrer">Synth-diy@synth-diy.org</a><br>
<a href="http://synth-diy.org/mailman/listinfo/synth-diy" rel="noreferrer noreferrer" target="_blank">http://synth-diy.org/mailman/listinfo/synth-diy</a><br>
</blockquote></div>