Zipfelsinn III

[Hamilton]

Ist es wirklich die Fouriertransformierte oder deren Betrag ?

Der Betrag- manchmal auch der Logarithmus des Betrages.

Die Verteilung der Features dürfte eigentlich nichts mit dem Spektrum zu tun haben. Das sind auch zwei völlig verschiedene Dinge. Ich kann aus einer Zeitreihe ihre Autokorrelation berechnen und diese Fouriertransformieren- ein Text hat keine Autokorr.
Man muss sich irgendwas anderes ausdenken- z.b. die (zeitl) Abstände zwischen dem Auftreten eiens Worts in einem Text ermitteln oder man betrachtet eien Text mit 5 versch. Wörtern als 5dim Zeitreihe-
Man kann aber annehmen, dass ein Wort mit seltener Auftrittswahrscheinlichkeit eine niedrige Frequenz hat (im Mittel)

Ich glaube aber, dass Periodogramme für deine Zipfdistanz unerheblich sind.

Mathlab hab ich auch auf dem Rechner. Wenns richtig schnell sein soll programmiere ich aber einfach in C. Gibt nichts schnelleres. Werde deinen Tipp ausprobieren.

Matlab ist schön- C ist schnell und frei, aber anstrengend- es ist ja nichts da- alles muss man selber machen.
Die ganzen Pythonbibliotheken erleichtern einem die Arbeit ungemein.

[Hamilton]

nanu? was ist los? Wann gibt's neue Ergebnisse?

[richy]

Hi Hamilton

Der Betrag- manchmal auch der Logarithmus des Betrages.

Die AKF enrspicht im Zeitbereich einer Faltung. Daher ist sie automatisch der Betrag der FT. Theorem von Wiener-Chintschin
Der Log ist fuer die Darstellung.

ein Text hat keine Autokorr.

Jeder Prozess hat eine AKF. Bei einem Zufallsprozess ordnet jedem Merkmal eine Zahl zu. Zum Beispiel jedem Wort ueber die Klassennummer. Das ist die uebliche Vorgehensweise. Ein Wuerfel muss nicht die Zahlen 1..6 aufweisen. Auch bei einem A...F Wuerfel , waere der selbe Zufalssprozess beschrieben.

Ich glaube aber, dass Periodogramme für deine Zipfdistanz unerheblich sind.

Um die geht es mir momentan gar nicht sondern den Zusammenhang 1/x und 1/f Verteilung.

Die Verteilung der Features dürfte eigentlich nichts mit dem Spektrum zu tun haben. Das sind auch zwei völlig verschiedene Dinge.

So dachte ich anfangs auch. Ein Zufallprozess ist durch seine Verteilung beschrieben. Aber ebenso durch seine spektrale Leistungsdichte.
Genau den Zusammenhang suche ich. Im Moment in den Buechern meiner Studienzeit.
Hier wird auf den Zusammenhang doch implizit hingewiesen :

Intermittende Systeme stehen in engem Zusammenhang einer charakteristischen Struktur des Leistungssepktrums. Dem sogenannten 1/f Spektrum welches einen weiteren Hinweis auf langweitreichige Korrelation in einer reellwertigen Signalfolge liefert.
Da diese Form des Leistungsspktrums u.a auch in natuerlichen Sequenzen , Biosequenzen, Musik und Texten nachweisbar ist, ist die Frage nach einem Zusammenhang zwischen solchen Sequenzen und intermittenden Prozessen naheligend.

Wie erklaest du dir sonst den Zusammenhang ?

Die AKF in Form der Faltung der Zeitfunktion ist ein Spezialfall, der nur fuer ergodische Prozesse gilt. Die allgemeine Definition, die mir aber auch kaum gelaufig ist, benuetzt die Verbundwahrscheinlichkeit von Ensemblefunktionen.
Ich schreibe sie morgen hier mal an.

Einen Zusammenhang koennte ich mir so vorstellen.
Man benutzt weisses Rauschen als idealisiertes gleichverteilten Zufallsprozess. Die AKF ist ein Diracpuls, das Spektrum konstant.

Jetzt erzeugt man daraus ueber ein System die Zielverteilung. Das funktioniert ueber die Methode des aequivalenten Ereingis.
(So ist auch mein RND Generator programmiert)
Nun bildet man das Betragsquadrat der Systemfunktion im Frequenzbereich und multipliziert es mit dem Eingangspsektrum des Rauschens. (Also eins) und erhaelt das zu erwartende Spektrum.

Das nur mal als Skizze.
Verteilung und Spektrum sind natuerlich nicht das Gleiche. Ein 1/jf Spektrum waere eine Intergration weissen Rauschens. Aber nicht vom Betragsqzadrat her.
Koennte sein, dass hier die Mathematik sehr aufwendig wird.

[Hamilton]

Die AKF enrspicht im Zeitbereich einer Faltung. Daher ist sie automatisch der Betrag der FT. Theorem von Wiener Kithyne.
Der Log ist fuer die Darstellung.

Hä?
Ich meine Periodogramm(f) = abs<-fft<-akf(t)
bzw. log davon- ja natürlich wegen der darstellung, hey was glaubst du, mit wem du hier sprichst?!

[richy]

Hi Hamilton

Ich war heute bischen in Eile, daher nur die kurzen Antworten.

Ich meine Periodogramm(f) = abs<-fft<-akf(t)

Die Bezeichnung Periodogramm ist mir weniger gelaufig.
http://de.wikipedia.org/wiki/Periodogramm

Das Periodogramm ist als Schätzer für das Spektrum völlig ungeeignet. Dies liegt daran, dass wenn die beobachtete Zeitreihe beliebig lang wird, die Varianz des Schätzers immer von der gleichen Größenordnung wie der Erwartungswert bleibt und nicht gegen Null konvergiert.

Meine Frage bezueglich des Betrags hatte sich von alleine erledigt.

Die AKF eines ERGODISCHEN Prozesses fuer ein Zeitsignal x(t) lautet :

(BTW: Das ist nicht die allgemeine Definition sondern nur die Form wie sie praktisch fuer ergodische Prozesse angewendet wird)

Und mit scharfem mathematischem Blick siehst du sicherlich, dass dies ein
Faltungsintegral (auch Duhamel Integral genannt) ist.
http://de.wikipedia.org/wiki/Faltung_(Mathematik)

Dabei ist * (stern) die Kurzschreibweise des Faltungsoperators der dir sicherlich auch bekannt ist.
Und damit ist die AKF(tau) nichts weiter als die Faltung einer Funktion mit sich selbst.
Im folgenden benutze ich * als Faltungsoperator und "mal" als Multiplikationsoperator :

AKF(tau)=x(t) * x(t)
Salopp ausgedrueckt. Man schiebt die Funktion durch sich selbst durch.

hey was glaubst du, mit wem du hier sprichst?!

Das loest das Problem nicht.
Ich hoffe mit jemandem fuer den Integraltransformation gluecklicherweise kein Fremdwort ist.
Und dann muesste klar sein :
Einer Faltung
x(t) * x(t) im Zeitbereich
ergibt im Bildbereich der Fouriertransformation eine Multiplikation:
x(t)*x(t) o-o X(w) mal X(w)* (der Stern bei x(w)* fuer konjungiert komplex)
Und x(w) mal x(w)* ist aber nichts weiter als das BETRAGSQUADRAT.

Und damit ist das Theorem von Wiener-Chintschin selbstversstaendlich :
http://de.wikipedia.org/wiki/Wiener-Chintschin-Theorem



Ich denke da sind wir uns einig.
Wenn man die AKF fouriertransformiert ergibt sich automatisch das Betragsquadrat.
Das ist auch logisch, denn das Zufaellige an einem Zufallsprozess ist die Phaseninformation.
Und die geht bei der Betragsbildung verloren.

Ich hoffe mal dass wir gemeinsam folgendes Problem loesen koennten

Wie haengt eine Verteilungs(dichte)funktion und die Fouriertransformiete der AKF(tau), das Spektrum, denn nun konkret zusammen ?

Allgemein kann man nicht aus dem Spektrum auf die Verteilungsfunktion schliessen.
Ich haette einen Vorschlag :

Wir nehmen weisses Rauschen.
Das schicken wir durch eine Blackbox, ein System, einen mathematische Operator.
Jetzt passen wir diesen mathematischen Operator so an, dass das Ausgangssignal
eine 1/x, eine Zipf Verteilung aufweist.
Dazu verwenden wir die Methode des aeqivalenten Ereignisses.
Der Begriff ist vielleich auch noch in anderer Form bekannt.
Das wird aber der zentrale Punkt der Loesung sein.

Den daraus resultierenden Operator betrachten wir im Bildbereich der F-Transformation.
Bilden dessen Betragsqadrat und erhalten damit das Spektrum einer 1/x , Zipf verteilten
Zufallsfunktion.
Diesen Operator zu bestimmen waere interessant.
Koennte mir auch vorstellen, dass die Aufgabe so nicht loesbar ist.

[richy]

Hi Hamilton
Das aeqzivalente Ereignis hat den Ansatz
f(x)*dx = g(y)*dy
Dabei sind f(x) und g(y) die Ziel und Ausgangsverteilungsdichten, die man transformieren moechte

Man erhaelt mit der Methode h(x)=x*x/N/m, m=Summe(1/k,k=1..N)
x(t)=weisse Rauschen.
Im numerischen Experiment funktioniert das recht gut.
Es ergibt sich naeherungsweise eine c/y Verteilung

Die Systemfunktion im F-Bereich waere eine Faltung und damit das Spektrum weiterhin konstant. Das ist auch einsichtig, denn man veraendert die Korrelation nicht.
Eine andere Methode der Tranformation einer Verteilung waere die Inversionsmethode.

Folgender Loesungsweg scheint mir vielversprechend.
Dabei gehe ich wiederum von einem gleichverteilten weissen Rauschprozess aus.
Fraktale Integration
***************
Ein 1/f Spektrum erhaelt man wenn dieser Prozess ein System mit dem Frequenzgang G(f)=1/(Wuzel(j*f)) durchlaeuft.
G(f) ist der Frequenzgang eines fraktalen Integrators der Ordnung 1/2.
(Fuer eine ungeradzahlige Ableitung oder Integration wir der Begriff "fraktal" verwendet )
Die entsprechende Korrespondenz findet man zum Beispiel hier :
http://de.wikipedia.org/wiki/Fraktio..._und_Faltungen

( Die Variable im Urbereich ist hier x, nicht t. Die Variable im Bildbereich ist k)
Die Rueckstransformierte ergibt eine fraktionales Weylintegral :

mit
Gl1)

oder der Substitution t=x-y
Gl2)



Fuer den Fall alpha=1/2 erhalten wir genau die gesuchte Korrespondenz des
Frequnzganges.
(Die Gammafunktion von 1/2 ist Wurzel(PI))
G(f)=1/(Wurzel(j*2*PI*k)).
Und dessen Betragsquadrat, das Spektrum ergibt sich zu :
G(f)=1/(2*PI*k)).

Jetzt muesste man den umgekehreten Weg gehen und aus der Transformationsgeleichung der Verteilung mittels Inversionsmethode oder aequivalentem Ereignis die Verteilung berechnen.
Etwas einfacher duerfte es sein die AKF berechnen.

Auf jeden Fall haben wir schonmal als Abfallprodukt geistiger Erguesse :-)
eine Methode gefunden rosa Rauschen zu erzeugen ohne eine FFT zu benuetzen.

Ich nenne das Filter mal frech fraktionales Weyl-Richy Filter.

Bezueglich der Ausgangsfrage tendiere ich momentan zu 2 Ansichten.
1)
Die von mir zitierten Aussagen stellen lediglich ein Analogon dar.
In dem zwar Frequenzverteilungen betrachtet werden, der Aspekt des Merkmals Frequenz aber keine Rolle spiel.
Darauf haetten die Autoren aber besser hinweisen muessen.

2)
Alle Beispile weisen auch ein c/x Verteilung auf.
Die physikalischen Beispiel weisen tatsaechlich ein 1/f Spektrum auf.
Beide Eigenschaften stehen aber in keinem ersichtlichen Zusammenhang.
Das waere schon sehr zufaellig.

Als naechstes werde ich mit dem fraktionalen Weyl Integral rosa Rauschen erzeugen und einfach numerisch die Verteilung bestimmen.

[Hamilton]

Ich denke da sind wir uns einig.
Wenn man die AKF fouriertransformiert ergibt sich automatisch das Betragsquadrat.

Nö, da sind wir uns nicht einig.
Die Autokorrelation ist erstmal eine reelle Funktion, wie auch immer die gebildet wird und die Fouriertransformierte ist i.A. komplex.

Das Theorem besagt, dass man die AKF, die wie du richtig sagst, eine Faltung mit sich selbst ist über Multiplikation im Fourierraum bestimmen kannst.
Da steht S(f) = |x(f)|²
x(f) ist aber nicht das Signal, sondern die Fouriertransformierte von x(t).
Ich finde sowieso, dass das da alles ein bisschen komplizierter, als nötig aufgeschrieben ist.
Wie dem auch sei, einigen wir uns darauf, dass wir wissen, wie man die AKF bestimmt...

Der Wiki-Artikel über Periodogramme war interessant- ich habe daraus jedenfalls gelert, dass Periodogramme etwas anderes sind, als das Leistungsdichtespektrum- ich hab das immer gleichbedeutend benutzt, aber man muss da wohl aufpassen- wie gesagt, ich bevorzuge die Methode von Welch- gibt es auch eingebaut in Matlab.

hey was glaubst du, mit wem du hier sprichst?!

Sorry, das war unhöflich.
Aber wenn das schon zur Sprache kommt, ich bin Physiker mit Spezialisierung auf Dynamik komplexer Systeme (früher hat man auch gern "chaotisch" dazu gesagt, aber das ist ein wenig aus der Mode gekommen, da unseriöser Beiklang)

Wie haengt eine Verteilungs(dichte)funktion und die Fouriertransformiete der AKF(tau), das Spektrum, denn nun konkret zusammen ?

Da muss ich mal drüber nachdenken, im Augenblick fällt mir nichts cleveres dazu ein.
Wenn ich mir so einen Sinus sin(f0*t) daher nehme und die "Aufenthaltswahrscheinlichkeitsdichte" berechne, dann ergibt sich eine "U"-förmige Funktion- die Leistungsdichte ist jedoch eine scharfe Linie delta(f-f0)
Ich glaube, dieses Abschweifen bringt nichts.
Eigentlich ging es doch um was ganz anderes.

[richy]

Uebrigends schade, dass sich hier anscheinend niemand aktiv an dem Thema
beteiligen moechte.

@EMI
keine Lust ?

@hamilton
ich habe deine Fragestellung :

hey was glaubst du ...

mal versucht ueber deine Profilangaben zu beantworten.
Ja, das war bischen unhoeflich von dir. Aber egal.
Ich bin auch nicht immer hoeflich und froh darueber, dass wenigstens einer hier sich fuer die Themen interessiert, die auch mich interessieren.
Bin ueber dein Interesse ueberaus dankbar.
Und wie du siehst kann mich soundso niemand aufhalten.

Du studierst noch ?
(Ich hatte auch mal Mathe Prof, Doc oder Anwendungsmathematiker angenommen.
Aber deine Grundeinstellung passt zu den Jobs nicht)

Welches Fach, wenn man fragen darf ? Ich denke mal dennoch Mathematik.
Ich bin uebrigends Elektroingenieur und Musiker.
Mein Modellfach war Bild und Ton, also Signalverarbeitung.
In dem Bereich, insbesonders der Numerik habe ich auch noch ein paar Jahre an der Uni gearbeitet.
Fraktale Differentation war da auch ein Thema.

Man kann das fraktionale Weyl Integral aber auch einfach als eine gueltige
Korrospondenz der Fouriertransformation auffassen.

Unsere Beiraege hatten sich zeitlich ueberschnitten.

Ah. Du bist also Physiker. Dazu spezialisiert fuer nichtlineaere Systeme.
Passt doch.

[Marco Polo]

Zitat von richy

Uebrigends schade, dass sich hier anscheinend niemand aktiv an dem Thema
beteiligen moechte.

Hi richy,

immer wenn es etwas komplizierter wird, dann wird die Beteiligung dünn. Es gibt hier einfach zu wenige Physiker/Mathematiker.

Ich habe die gleiche Erfahrung schon mal in einem Thread zur SRT gemacht, bei dem rene und ich diverse Aufgaben durchgerechnet hatten. Die sonst üblichen SRT-Kritiker schweigten stille. Was kann man jetzt daraus schliessen?

Ich behalts mal besser für mich, sonst bekomme ich Kloppe.

Gruss, Marco Polo

[richy]

Nö, da sind wir uns nicht einig.
Die Autokorrelation ist erstmal eine reelle Funktion, wie auch immer die gebildet wird und die Fouriertransformierte ist i.A. komplex.

Yepp.
Aber der Betrag oder das Betragsquadrat einer Fouriertransformierten ist immer reell.
Das ist der Frequenz, Amplitudengang eines Systems.
Bei einem Signal dessen Leistungsdichtespektrum.

Wenn wir die AKF als eine Faltung der Zeitfunktion x(t) mit sich selbst betrachten,
dann ist deren Fouriertransformierte zunaechst das Quadrat der F-Transformierten der Zeitfunktion.
X(f) mal X(f)
Denn einer Faltung im Bildbereich entspricht eine Multiplikation im Frequenzbereich.
Das ist eine fundamentale Korrespondenz der F-Transformation.
X(f) mal X(f) muss nicht reell sein.

Bilden wir aber X(f) mal X(f)* (*=konjungiert komplex) ist dies das Betragsquadrat von X(f).
Und genau dieses wird im Theorem von Wiener-Chintschin wiedergegeben.
Woher das "konjungiert komplex" resultiert bin ich gerade ueberfragt.
Viellleicht ist es daher "nur" ein Theorem.

Die Fouriertransformierte der AKF ist nach Wiener-Chintschin immer eine reelle Funktion .
S(f) = |x(f)|²
Ein Betrag ist immer reell und damit ist S(f) immer reell.
Bei Rosa Rauschen S(f) = |1/(c*f)|
Und diese spektale Leistungsdichte kann ich auch als 1/(Wurzel(j*c*f)*1/(Wurzel(-j*c*f) anschreiben.

BTW:
Dass die F-Transformierte reell ist, ist kein ausreichendes Kriterium, dass auch deren Ruecktransformierte reell ist. Die S(f) muss dazu zusaetzlich eine gerade Funktion sein.
Aber auch dies ist mit der Betragsbildung garantiert.

Schau dir mal die F-Transformierte von f(t)=sin(t) an.
-j Pi Dirac(f - 1) + j Pi Dirac(f + 1)
Das ist eine imaginaere ungerade Funktion

dagegen die FT von cos(t)
Pi Dirac(f - 1) + Pi Dirac(f + 1)
eine gerade reelle Funktion.

Praktisch ist es zu wissen, dass die Korrospondenzen der FT auch rueckwaerts gelten.
Das siehst du in obigem Beispiel schon :
Die Cosinusfunktion ist gerade und daher das Spektrum reell.
Die Sinusfunktion ist ungerade und daher das Spektrum imaginaer. CIS !

Eine der wichtigsten (beidseitigen) Korrespondenz ist :

Ist die Zeitfunktion abgetastet ist deren Foriertransformierte periodisch
(Das fuehrt auf die Nyquist Abtastfrequenz, das Nyquist Kriterium)
Ist die Zeitfunktion periodisch, ist das Spektrum abgetastet, diskret
(Dass fuehrt auf die Spektrallinien)

Fuer zufaellige Signale gilt analog zu determinierten Signalen :
S_out(f))=|G(f)|^2 * S_in(f))

Fuer S_in(f) habe ich weisses Rauschen gewaehlt : S_in(f)=1
1/(Wurzel(j*c*f) waere dann die Fouriertransformierte eines Systmes G(f), dessen Ruecktransformierte, also Systemfunktion man aber kaum in einer FT Tabelle finden wird.
Denn dies entspricht einer fraktalen Integration.
Auch Maple kann diese Aufgabe nicht loesen.
Ueber dieses Stichwort haben wir dennoch die Ruecktransformierte gefunden.


So ganz bin ich mir nicht mit der Kritik des Periodogrammes im klaren.
Wenn ich am Digitalrechner das Betragsspektrum berechne gehe ich doch auch nicht anders vor.

Eigentlich wollte ich an der Stelle die Ergebnisse mit dem Weyl Integral hier reinstellen.
Folgt in Kuerze.
Vorweg: Es ergibt sich anscheinend eine Gauss Verteilung.
Hast du gerade einen DFT oder FFT Algo parat ?
Ich will den 1/f Amplitudengang noch numerisch pruefen.
Wenn der stimmt haben wir eine super einfache Methode gefunden fuer den Entwurf
eines "rosa Filters" und dazu tiefere Erkenntnisse in das Wesen von rosa Rauschen.

Welch hat mit dem nur wenig zu tun. Das ist Numerik.
Ein optimiertes Gewichtungsfenster fuer die numerische Bestimmung der FT.
Damit werden "Auf und Abschalt", also "Randverzerrungen" unterdrueckt.
Kein Sinus schwingt ewig.
Auf und Abschalten entspricht einer Fensterung.
Und deren FT ist eine sin(c*f)/(c*f) Funktion
Im Zeitbereich wird das Fenster mit der Funktion multipliziert.
Im Frequenbereich also ? ... das Spektrum gefaltet.
Und da wir Meister der Faltung sind wissen wir auch wie der einfachste Fall einer Faltung aussieht. Naehmlich die Faltung einer Funktion mit einem Diracpuls(f-f0)
Die Funktion wird dann um diesen Diracimpils zentriert verschoben.
g(f) gefaltet Dirac(f-f0) = g(f-f0)
Und damit verschmiert sich der Puls zu einer sin(c*f)/(c*f) Funktion.
Bei einem Welch Fenster zu dessen etwas weniger verschmierten FT.
Und damit haben wir das Welchfenster und nebenbei Unschaerferelation der Nachrichtentechnik erklaert.
Und auch das Beugungsbild beim Spaltversuch.
Denn bei diesem wird der Spalt fouriertransformiert.